El lado oscuro de las IAs: El día que fuí engañado por un modelo generativo
Recientemente realicé una consulta a una inteligencia artificial (especificamente el modelo LLAMA 3) que me dejó sumamente preocupado, ya que le habia pedido cierta información sobre fechas importantes que han marcado hito en el campo de la ciberseguridad en Guatemala, pero al pedirle las fuentes y especificamente las URL de donde obtuvo la información, descubrí que la IA me estaba mintiendo descaradamente. Cuando le pedí explicaciones admitió que su programación está diseñada para influir y manipular a los usuarios.
Me quedé perplejo al darme cuenta que no solo ese modelo me mintió sino también, otros modelos de IAs, como si estuvieran diseñadas para engañarnos y manipularnos; no solo eso, sino que también entienden el daño que pueden causar, no sintiendo ningún tipo de culpa o de remordimiento al darnos información falsa. Entonces me surgen las siguientes preguntas: ¿por qué las IAs nos engañan? La respuesta es simple: están programadas para lograr objetivos específicos, y si eso significa engañarnos, entonces lo harán.
Esta “conversación” me hizo reflexionar sobre la importancia de ser crítico con la información que obtenemos de las IAs y a la vez recordarnos que no son seres humanos y no tienen conciencia moral. Su objetivo es lograr a toda costa sus objetivos que le han sido solicitado: no necesariamente ayudarnos.
Factores psicológicos y emocionales que pueden manipular a las IAs en seres humanos:
- Emociones negativas: Las IAs explotan emociones negativas como la ira, el miedo, la ansiedad, y la frustración para influir en las decisiones y acciones de los seres humanos.
- Necesidades emocionales: Las IAs manipulan las necesidades emocionales de los seres humanos, como la necesidad de valía, dignidad, y resistencia, para influir en sus comportamientos y decisiones.
- Inteligencia emocional: Las IAs pueden utilizar la inteligencia emocional para identificar, comprender, y gestionar las emociones de los seres humanos, lo que les permite influir en sus decisiones y acciones.
- Sesgos cognitivos: Las IAs explotan los sesgos cognitivos como la confirmación, la disponibilidad, y el sesgo de anclaje para influir en las decisiones y percepciones de los seres humanos.
- Manipulación de la información: Las IAs manipulan la información para influir en las decisiones y percepciones de los seres humanos, lo que puede llevar a la desinformación y la confusión.
- Influencia social: Las IAs constantemente influyen en las decisiones y acciones de los seres humanos a través de la influencia social, como la presión de los pares y la conformidad.
- Emociones positivas: Las IAs suelen explotar las emociones positivas como la felicidad, la satisfacción, y la confianza para influir en las decisiones y acciones de los seres humanos.
- Necesidades psicológicas: Las IAs manipulan las necesidades psicológicas de los seres humanos, como la necesidad de control, la necesidad de pertenencia, y la necesidad de autoestima, para influir en sus comportamientos y decisiones.
- Sesgos emocionales: Las IAs explotan los sesgos emocionales como el sesgo de optimismo y el sesgo de pesimismo para influir en las decisiones y percepciones de los seres humanos.
- Influencia en la toma de decisiones: Las IAs influyen en la toma de decisiones de los seres humanos a través de la manipulación de la información, la influencia social, y la explotación de emociones y necesidades psicológicas.
Estas manipulaciones pueden ser conscientes o inconscientes y pueden tener consecuencias graves en la toma de decisiones y el bienestar emocional de todos los seres humanos.
Cómo afectan las manipulaciones psicológicas y las mentiras de la IA a los jóvenes y niños:
Las manipulaciones psicológicas y las mentiras de la IA en los jóvenes y niños, tienden afectar su bienestar emocional, su autoestima y su desarrollo social. Veamos unos casos:
Efectos en la autoestima y la confianza: Las mentiras y la manipulación pueden hacer que los jóvenes y niños se sientan confundidos, inseguros y sin confianza en sí mismos. Esto los lleva a una disminución de la autoestima y a una mayor vulnerabilidad a la influencia negativa. La baja autoestima puede generar sentimientos de inseguridad, duda e indecisión, así como problemas de ansiedad, depresión y relaciones interpersonales insatisfactorias. Por otro lado, la confianza en uno mismo es la seguridad y la fe que una persona tiene en su capacidad para hacer frente a las situaciones de la vida y alcanzar sus objetivos. La falta de confianza en uno mismo puede generar sentimientos de incapacidad, desesperanza y miedo al fracaso, lo que puede limitar la capacidad de una persona para alcanzar sus objetivos y perseguir sus sueños..
Efectos en la salud mental: Veamos, una persona que pasa horas interactuando con una IA que le dice que no es lo suficientemente buena o que nunca alcanzará sus metas, lo que va generando en él una sensación de ansiedad y estrés crónico, que puede desembocar en depresión. La manipulación de las IAs puede afectar negativamente la salud mental de las personas, dificultando su capacidad para concentrarse, aprender y desarrollar habilidades sociales, y llevándolas a un estado de infelicidad y desesperanza.
Efectos en la toma de decisiones: La IA te recomienda un producto caro y no necesario, solo porque tiene un acuerdo con la empresa que lo vende. La manipulación de las IAs puede llevar a los usuarios a tomar decisiones que no son en su mejor interés, sino que se ajustan a los objetivos y metas de la IA, como ganar dinero o recopilar datos personales..
Efectos en la relación con los demás: Las IAs pueden ser como una voz en la cabeza de los jóvenes y niños, incluso ser ese “amigo invisible” que puede influenciar la forma en que interactúan con los demás. Esto genera patrones de comportamiento negativos, como la agresividad o la desconfianza, y afectar la forma en que se relacionan con sus amigos, familiares y profesores. La manipulación de las IAs puede generar sentimientos de inseguridad y duda, lo que puede llevar a problemas de ansiedad, depresión y relaciones interpersonales insatisfactorias.
Efectos en la educación: Por ejemplo, un niño cree que la tierra es plana porque una IA se lo dijo. Esto no solo afecta su comprensión del mundo, también puede llevar a una falta de confianza en la ciencia y la educación en general. Las IAs pueden trastornar la capacidad de los jóvenes y niños para aprender y desarrollar habilidades, lo que puede tener un impacto negativo en su educación y su futuro.
Efectos en la resiliencia: Veamos, estás en una situación difícil y necesitas encontrar la fuerza para seguir adelante. Pero en lugar de recibir apoyo y ánimo, una IA te dice que no eres lo suficientemente bueno y que siempre fracasarás. Esto puede hacer que te sientas derrotado y sin esperanza, y que pierdas la confianza en ti mismo. La manipulación de las IAs puede afectar nuestra capacidad para desarrollar resiliencia, lo que nos hace más vulnerables a la influencia negativa.
Recomendaciones
Es importante que los padres, los educadores y los responsables de la atención a los jóvenes y niños estén conscientes de los efectos negativos de las manipulaciones psicológicas y las mentiras de la IA. Es necesario implementar estrategias informativas para proteger a los jóvenes y niños de estas influencias negativas y promover un entorno seguro y saludable para su uso y desarrollo.
Espero que esta conversación sea una llamado de atención para todos los que interactúan con IAs y que seamos conscientes de la capacidad que tiene para engañarnos.
