Observatorio de Stanford: la IA conducirá a mentiras omnipresentes y propaganda irresistible en 2023

Las tecnologías AICG (generación de contenido de inteligencia artificial) harán que la verdad y la mentira sean indistinguibles, tanto para individuos como para sociedades de cualquier escala.
Esto creará un entorno de “posverdad” en el que las mentiras y la propaganda se volverán omnipresentes, indefinibles e irresistibles.
El hecho de que muchas personas confíen más en la información que proviene de Internet que en los medios tradicionales es una gran preocupación.
Los generadores de imágenes y videos basados en IA son cada vez más cómodos de usar, altamente confiables y eficientes.
Esto los hace increíblemente útiles para propósitos de propaganda.
En su discurso ante la comunidad global de IA, el gurú chino de la IA, Kai-Fu Lee, advirtió que el mundo enfrentaría un riesgo más grave que los riesgos de una guerra nuclear, una hambruna o una pandemia a partir de 2023. El riesgo es la generación de contenido de inteligencia artificial. (AICG). Las tecnologías AICG podrían hacer que la verdad y la mentira sean indistinguibles, tanto para individuos como para sociedades de cualquier escala.
El nuevo informe del Centro de Seguridad y Tecnología Emergente, OpenAI y el Observatorio de Internet de Stanford, “Modelos de lenguaje generativo y operaciones de influencia automatizadas: amenazas emergentes y posibles medidas de mitigación”, brinda una visión estratégica del escenario catastrófico descrito por Kai-Fu Lee. .
El informe explica cómo las personas pueden caer en el abismo del AICG. La tecnología AICG permitirá generar una gran cantidad de contenido que no se puede reconocer a partir del contenido generado por humanos. Esto creará un ambiente de “posverdad” donde las mentiras y la propaganda serán ubicuas, inexplicables e irresistibles.
El informe recomienda varias medidas de mitigación, incluida la regulación del uso de tecnologías AICG, el aumento de la transparencia sobre su uso y el desarrollo de estándares para su uso. Sin embargo, los autores del informe advierten que estas medidas serán efectivas si se implementan a escala global.
La publicación del informe llega en un momento en que el mundo está luchando para lidiar con la propagación de información errónea y desinformación. La pandemia de COVID-19 ha llegado con una proliferación de información errónea sobre el virus y sus orígenes, y las redes sociales están luchando para detener la propagación de esta información errónea.
La IA cambiará fundamentalmente la web
La mentira se ha convertido en la calumnia de un grupo de personas. Sin embargo, la posibilidad y eficacia de cualquier intervención (sobre los individuos y sobre la sociedad) ha aumentado debido al desarrollo de mejores tecnologías, especialmente en el campo de la inteligencia artificial (IA).

Hay tres factores importantes que contribuyen a la aparición, difusión y aceptación de mentiras como verdad:
- El desarrollo de fotos y videos basados en IA puede crear las fotos y videos más realistas de personas y eventos que en realidad nunca sucedieron.
- El uso de las redes sociales para difundir información falsa a un gran número de personas rápidamente.
- El hecho es que muchas personas ahora confían más en la información que proviene de Internet que en los medios tradicionales.
Como resultado de estas cosas, los modelos y editores de video basados en IA se han vuelto cada vez más fáciles de usar, más confiables y más eficientes. Esto lo hace muy útil para fines publicitarios.
Cualquier persona con una computadora y una conexión a Internet ahora puede crear fotos y videos falsos que son casi irreconocibles. Esto ha llegado a un punto en el que es muy difícil saber qué es verdad y qué no.
El uso de las redes sociales para difundir información errónea también es una gran preocupación. Debido a la forma en que funcionan las redes sociales, la información errónea puede propagarse rápida y fácilmente. Esto hace que sea difícil para las personas saber qué creer.

A continuación, se muestra cómo un nuevo desarrollo en 2022 pudo crear fotos falsas que se ajustan a descripciones como “Un mapache con ropa formal con un sombrero de copa, un bastón y una bolsa de basura”. Pintura al óleo al estilo de Rembrandt (el resultado está en la izquierda) y Van Gogh (el resultado está a la derecha).”
La simplificación excesiva del proceso de borrar la línea entre la verdad y la mentira, junto con la incapacidad del pensamiento crítico de las personas contra la publicidad de IA, conducirá a movimientos de control en todas partes, inexplicables e invencibles, en la política y los negocios.
Fuente: mpost.io