La era de la persuasión mediante IA en las elecciones está a punto de comenzar

En enero de 2024, el teléfono sonó en hogares de todo Nuevo Hampshire. Al otro lado se oía la voz de Joe Biden, instando a los demócratas a “salvar su voto” saltándose las primarias. Parecía auténtico, pero no lo era. La llamada era falsa, generada por inteligencia artificial.

Hoy en día, la tecnología detrás de ese engaño parece anticuada. Herramientas como Sora de OpenAI permiten crear vídeos sintéticos convincentes con una facilidad asombrosa. La IA puede utilizarse para fabricar mensajes de políticos y famosos, incluso fragmentos de noticias completos, en minutos. El temor de que las elecciones se vean eclipsadas por la publicidad falsa se ha generalizado, y con razón.

Pero eso es solo la mitad de la historia. La amenaza más profunda no es que la IA pueda simplemente imitar a las personas, sino que puede persuadirlas activamente. Y una nueva investigación publicada esta semana demuestra el poder de esa persuasión. En dos amplios estudios revisados ​​por pares, los chatbots de IA cambiaron la opinión de los votantes por un margen sustancial, mucho más que la publicidad política tradicional.

En los próximos años, veremos el auge de la IA, capaz de personalizar argumentos, probar qué funciona y, discretamente, reformular las opiniones políticas a gran escala. Ese cambio —de la imitación a la persuasión activa— debería preocuparnos profundamente.  

El reto reside en que la IA moderna no se limita a copiar voces o rostros; mantiene conversaciones, interpreta emociones y adapta su tono para persuadir. Y ahora puede controlar a otras IA, dirigiendo modelos de imagen, vídeo y voz para generar el contenido más convincente para cada público objetivo. Al combinar estas piezas, no es difícil imaginar cómo se podría construir una máquina de persuasión coordinada. Una IA podría escribir el mensaje, otra crear las imágenes, otra distribuirlo entre plataformas y observar qué funciona. Sin necesidad de humanos.

Hace una década, montar una campaña de influencia en línea eficaz solía implicar desplegar ejércitos de personas que gestionaban cuentas falsas y granjas de memes. Ahora, ese tipo de trabajo se puede automatizar de forma económica e invisible.

La misma tecnología que impulsa los bots de atención al cliente y las apps de tutoría puede reutilizarse para influir en las opiniones políticas o amplificar la narrativa preferida de un gobierno. Y la persuasión no tiene por qué limitarse a anuncios o llamadas automáticas. Puede integrarse en las herramientas que la gente ya usa a diario: redes sociales, apps para aprender idiomas, plataformas de citas o incluso asistentes de voz creados y vendidos por quienes intentan influir en el público estadounidense. Ese tipo de influencia podría provenir de actores maliciosos que utilizan las API de herramientas de IA populares en las que la gente ya confía, o de apps completamente nuevas creadas con la persuasión incorporada desde el principio.

Y es asequible. Por menos de un millón de dólares, cualquiera puede generar mensajes personalizados y conversacionales para cada votante registrado en Estados Unidos. El cálculo es sencillo. Supongamos 10 intercambios breves por persona (unos 2700 tokens de texto) y calculemos el precio actual de la API de ChatGPT. Incluso con una población de 174 millones de votantes registrados, el total sigue siendo inferior al millón de dólares. Los 80 000 votantes indecisos que decidieron las elecciones de 2016 podrían ser el objetivo por menos de 3000 dólares. 

Si bien esto representa un desafío en las elecciones de todo el mundo, hay mucho en juego para Estados Unidos, dada la magnitud de sus elecciones y la atención que atraen de actores extranjeros. Si Estados Unidos no actúa con rapidez, las próximas elecciones presidenciales de 2028, o incluso las elecciones intermedias de 2026, podrían ser ganadas por quien primero domine la persuasión. 

La amenaza de 2028 

Si bien existen indicios de que la amenaza que la IA representa para las elecciones es exagerada, un creciente número de investigaciones sugiere que la situación podría estar cambiando. Estudios recientes han demostrado que el GPT-4 puede superar la capacidad persuasiva de los expertos en comunicación al generar declaraciones sobre temas políticos polarizantes en Estados Unidos, y es más persuasivo que los humanos no expertos en dos tercios de los casos al debatir con votantes reales. 

Dos importantes estudios publicados ayer extienden estos hallazgos a contextos electorales reales en Estados Unidos, Canadá, Polonia y el Reino Unido. Demuestran que las conversaciones breves con chatbots pueden influir en la actitud de los votantes hasta en 10 puntos porcentuales. Las opiniones de los participantes estadounidenses cambiaron casi cuatro veces más que en respuesta a los anuncios políticos analizados de 2016 y 2020. Y cuando los modelos se optimizaron explícitamente para la persuasión, el cambio se disparó a 25 puntos porcentuales, una diferencia casi incalculable.

Aunque antes estaban restringidos a empresas con recursos suficientes, los modelos de lenguaje modernos de gran tamaño son cada vez más fáciles de usar. Los principales proveedores de IA, como OpenAI , Anthropic y Google, integran sus modelos de frontera en políticas de uso, filtros de seguridad automatizados y monitorización a nivel de cuenta, y en ocasiones suspenden a los usuarios que infringen dichas reglas.

Pero estas restricciones solo se aplican al tráfico que pasa por sus plataformas; no se extienden al ecosistema en rápido crecimiento de modelos de código abierto y de peso abierto, que cualquier persona con conexión a internet puede descargar. Aunque suelen ser más pequeños y menos potentes que sus homólogos comerciales, las investigaciones han demostrado que, con un análisis y ajustes minuciosos, estos modelos ahora pueden igualar el rendimiento de los principales sistemas comerciales. 

Todo esto significa que los actores, ya sean organizaciones con recursos suficientes o colectivos de base, tienen un camino claro para implementar IA políticamente persuasiva a gran escala. Ya se han producido demostraciones tempranas en otras partes del mundo. En las elecciones generales de la India de 2024, se informó que se gastaron decenas de millones de dólares en IA para segmentar a los votantes, identificar a los votantes indecisos, enviar mensajes personalizados mediante llamadas automáticas y chatbots, y más. En Taiwán, funcionarios e investigadores han documentado operaciones vinculadas a China que utilizan IA generativa para producir desinformación más sutil , que abarca desde deepfakes hasta resultados de modelos de lenguaje sesgados hacia los mensajes aprobados por el Partido Comunista Chino.

Es solo cuestión de tiempo antes de que esta tecnología llegue a las elecciones estadounidenses, si es que no lo ha hecho ya. Los adversarios extranjeros están bien posicionados para actuar primero. China , Rusia , Irán y otros ya mantienen redes de granjas de trolls, cuentas de bots y operadores de influencia encubiertos. Junto con modelos de lenguaje de código abierto que generan contenido político fluido y localizado, esas operaciones pueden potenciarse. De hecho, ya no hay necesidad de operadores humanos que entiendan el lenguaje o el contexto. Con un ajuste ligero, un modelo puede hacerse pasar por un organizador vecinal, un representante sindical o un padre descontento sin que una persona ponga un pie en el país. Las propias campañas políticas probablemente les seguirán de cerca. Toda operación importante ya segmenta a los votantes, prueba los mensajes y optimiza la entrega. La IA reduce el costo de hacer todo eso. En lugar de probar un eslogan en una encuesta, una campaña puede generar cientos de argumentos, presentarlos uno a uno y ver en tiempo real cuáles cambian las opiniones.

El hecho subyacente es simple: la persuasión se ha vuelto efectiva y económica. Campañas, comités de acción política (PAC), actores extranjeros, grupos de presión y oportunistas juegan en el mismo terreno, y hay muy pocas reglas.

El vacío político

La mayoría de los responsables políticos no se han puesto al día. En los últimos años, los legisladores estadounidenses se han centrado en los deepfakes, pero han ignorado la amenaza persuasiva más amplia.

Los gobiernos extranjeros han comenzado a tomar el problema más en serio. La Ley de IA de 2024 de la Unión Europea clasifica la persuasión electoral como un caso de uso de “alto riesgo”. Cualquier sistema diseñado para influir en el comportamiento electoral está ahora sujeto a requisitos estrictos. Las herramientas administrativas, como los sistemas de IA utilizados para planificar eventos de campaña u optimizar la logística, están exentas. Sin embargo, las herramientas destinadas a influir en las creencias políticas o las decisiones de voto no lo están.

En cambio, Estados Unidos se ha negado hasta ahora a establecer límites significativos. No existen normas vinculantes sobre qué constituye una operación de influencia política, ni estándares externos que guíen su aplicación, ni una infraestructura compartida para rastrear la persuasión generada por IA en diferentes plataformas. Los gobiernos federal y estatal han dado pasos hacia la regulación —la Comisión Federal Electoral está aplicando antiguas disposiciones contra el fraude, la Comisión Federal de Comunicaciones ha propuesto normas de divulgación restrictivas para los anuncios publicitarios y algunos estados han aprobado leyes contra las deepfakes—, pero estos esfuerzos son fragmentarios y dejan intacta la mayor parte de las campañas digitales  .

En la práctica, la responsabilidad de detectar y desmantelar campañas encubiertas se ha dejado casi por completo en manos de empresas privadas, cada una con sus propias normas, incentivos y puntos ciegos. Google y Meta han adoptado políticas que exigen la divulgación de información cuando se generan anuncios políticos mediante IA. X ha guardado silencio al respecto, mientras que TikTok prohíbe toda la publicidad política pagada. Sin embargo, estas normas, por modestas que sean, solo cubren la pequeña parte del contenido que se compra y se muestra públicamente. No dicen prácticamente nada sobre las campañas de persuasión privadas y no pagadas que podrían ser más importantes.

Cabe destacar que algunas empresas han comenzado a publicar informes periódicos de amenazas que identifican campañas de influencia encubiertas. Anthropic , OpenAI , Meta y Google han revelado la eliminación de cuentas no auténticas. Sin embargo, estas iniciativas son voluntarias y no están sujetas a auditorías independientes. Y lo que es más importante, nada de esto impide que actores específicos eludan por completo las restricciones de la plataforma con modelos de código abierto e infraestructura externa.

Cómo sería una estrategia real

Estados Unidos no necesita prohibir la IA de la vida política. Algunas aplicaciones pueden incluso fortalecer la democracia. Un chatbot bien diseñado para candidatos podría ayudar a los votantes a comprender la postura del candidato sobre temas clave, responder preguntas directamente o traducir políticas complejas a un lenguaje sencillo. Investigaciones incluso han demostrado que la IA puede reducir la creencia en teorías conspirativas. 

Aun así, Estados Unidos debería tomar algunas medidas para protegerse de la amenaza de la persuasión por IA. En primer lugar, debe protegerse de la tecnología política de fabricación extranjera con capacidades de persuasión integradas. La tecnología política adversaria podría adoptar la forma de un videojuego de producción extranjera donde los personajes se hacen eco de los argumentos políticos, una plataforma de redes sociales cuyo algoritmo de recomendación se inclina hacia ciertas narrativas o una aplicación de aprendizaje de idiomas que introduce mensajes sutiles en las lecciones diarias.

Evaluaciones como el reciente análisis de DeepSeek realizado por el Centro de Estándares e Innovación en IA deberían centrarse en identificar y evaluar productos de IA, en particular de países como China, Rusia o Irán, antes de su implementación generalizada. Este esfuerzo requeriría la coordinación entre agencias de inteligencia, reguladores y plataformas para detectar y abordar los riesgos.

En segundo lugar, Estados Unidos debería liderar la definición de las normas en torno a la persuasión basada en IA. Esto incluye restringir el acceso a la potencia informática para iniciativas de persuasión extranjera a gran escala, ya que muchos actores alquilarán los modelos existentes o la capacidad de la GPU para entrenar los suyos propios. También implica establecer normas técnicas claras —a través de gobiernos, organismos de normalización y compromisos voluntarios de la industria— sobre el funcionamiento de los sistemas de IA capaces de generar contenido político, especialmente durante periodos electorales delicados. A nivel nacional, Estados Unidos debe determinar qué tipo de información debe aplicarse a los mensajes políticos generados por IA, al tiempo que aborda las cuestiones relacionadas con la Primera Enmienda.

Finalmente, los adversarios extranjeros intentarán evadir estas salvaguardias utilizando servidores en el extranjero, modelos de código abierto o intermediarios en terceros países. Por ello, Estados Unidos también necesita una respuesta de política exterior. Los acuerdos multilaterales de integridad electoral deberían codificar una norma básica: los Estados que implementan sistemas de IA para manipular al electorado de otro país se arriesgan a sanciones coordinadas y a la exposición pública. 

Para ello, probablemente será necesario construir una infraestructura de monitoreo compartida, armonizar los estándares de divulgación y procedencia, y estar preparados para desmantelar coordinadamente las campañas de persuasión transfronterizas, ya que muchas de estas operaciones ya se están adentrando en espacios opacos donde nuestras herramientas de detección actuales son deficientes. Estados Unidos también debería impulsar la inclusión de la manipulación electoral en la agenda general de foros como el G7 y la OCDE, garantizando que las amenazas relacionadas con la persuasión mediante IA se traten no como problemas tecnológicos aislados, sino como desafíos de seguridad colectiva.

De hecho, la tarea de asegurar las elecciones no puede recaer únicamente en Estados Unidos. Un sistema de radar eficaz para la persuasión mediante IA requerirá la colaboración con nuestros socios y aliados. Las campañas de influencia rara vez se limitan a las fronteras, y los modelos de código abierto y los servidores en el extranjero siempre existirán. El objetivo no es eliminarlos, sino aumentar el coste del uso indebido y reducir el margen de maniobra en el que pueden operar sin ser detectados en diferentes jurisdicciones.

La era de la persuasión mediante IA está a la vuelta de la esquina, y los adversarios de Estados Unidos están preparados. En Estados Unidos, en cambio, las leyes están desfasadas, las barreras son demasiado estrechas y la supervisión es en gran medida voluntaria. Si la última década estuvo marcada por mentiras virales y vídeos manipulados, la próxima estará marcada por una fuerza más sutil: mensajes que suenan razonables, familiares y lo suficientemente persuasivos como para cambiar corazones y mentes.

Para China, Rusia, Irán y otros, explotar el ecosistema de información abierta de Estados Unidos representa una oportunidad estratégica. Necesitamos una estrategia que considere la persuasión de la IA no como una amenaza lejana, sino como una realidad presente. Esto implica evaluar con seriedad los riesgos para el discurso democrático, establecer estándares reales y construir una infraestructura técnica y legal en torno a ellos. Porque si esperamos a verlo, será demasiado tarde.

Fuente: MIT technology review