La era de la basura digital y el roll de la IA

El mundo ha cambiado drástricamente y la forma en la que nos informamos vive momentos críticos, dentro de una sociedad donde la información fluye a una velocidad vertiginosa, ya que la línea entre lo real y lo falso se ha vuelto cada vez más difusa. La desinformación, o “basura digital”, se ha convertido en una epidemia que amenaza la integridad de la información y la confianza pública. En Guatemala, el Observatorio Guatemalteco de Delitos Informáticos (OGDI) ha estado monitoreando esta tendencia alarmante y sus implicaciones para la sociedad y la región.

El problema de la basura digital.

La basura digital la podemos definir como información falsa o engañosa que se distribuye a través de plataformas digitales, desde noticias falsas hasta teorías de conspiración, esta información no solo confunde a los usuarios, sino que también puede tener consecuencias graves, como la polarización política y la erosión de la confianza en las instituciones.

La proliferación de contenido engañoso en redes sociales, blogs y sitios web puede distorsionar la percepción de la realidad, influir en decisiones importantes y socavar la cohesión social. Además, la basura digital puede explotar las vulnerabilidades emocionales y económicas de las personas, aprovechándose de su necesidad de seguridad y estabilidad financiera.

Muchas veces, se utilizan tácticas manipuladoras para incitar a los ciudadanos a “invertir” en esquemas que prometen retornos “mágicos” de dinero, lo que al final resulta ser una simple estafa basada en desinformación. Estas prácticas no solo afectan a los individuos, sino que también pueden tener repercusiones económicas más amplias, debilitando la confianza en el sistema financiero y en las instituciones reguladoras.

¿Quién gestiona la desinformación?

La desinformación no es un fenómeno espontáneo; es orquestada por actores con intereses específicos. Estos pueden incluir gobiernos, grupos políticos, empresas y hasta individuos que buscan manipular la opinión pública para su beneficio. Los gobiernos pueden utilizar la desinformación para controlar la narrativa y suprimir la disidencia, mientras que los grupos políticos pueden emplearla para influir en elecciones y ganar apoyo popular. Las empresas, por su parte, pueden difundir información engañosa para promover sus productos o desacreditar a la competencia. Incluso individuos con motivaciones personales pueden contribuir a la propagación de desinformación para obtener fama, poder o beneficios económicos. Este fenómeno se ve exacerbado por la facilidad con la que se puede crear y difundir contenido falso en la era digital, donde las barreras de entrada son bajas y el alcance potencial es global.

Las redes sociales y los motores de búsqueda, con sus algoritmos diseñados para maximizar el tiempo de los usuarios en la plataforma, a menudo amplifican esta información sin discriminar su veracidad. Los algoritmos priorizan el contenido que genera más interacción, clics y tiempo de visualización, independientemente de su autenticidad. Esta dinámica crea un entorno en el que la desinformación puede propagarse rápidamente y llegar a una audiencia masiva antes de que se pueda verificar su veracidad. Además, la personalización de los contenidos basada en el comportamiento del usuario puede llevar a la creación de “burbujas de filtro”, donde los individuos solo ven información que confirma sus creencias preexistentes, reforzando así el sesgo de confirmación y dificultando aún más la identificación de la desinformación. Este ciclo perpetúa la polarización y la desconfianza, subrayando la necesidad de mecanismos más efectivos para la verificación y la regulación de la información en línea.

¿Por qué las personas caen en estos engaños?

La psicología humana juega un papel crucial en la propagación de la desinformación. Las personas tienden a creer en información que confirma sus creencias preexistentes, un fenómeno conocido como “sesgo de confirmación”. Este sesgo cognitivo hace que las personas busquen, interpreten y recuerden la información de manera que confirme sus ideas previas, ignorando o desestimando la evidencia que las contradice.

Este comportamiento es especialmente problemático en la era digital, donde la sobreabundancia de información puede abrumar a los individuos. La sobrecarga de información, combinada con la falta de alfabetización digital, dificulta que muchas personas distingan entre lo real y lo falso. La alfabetización digital, que incluye habilidades para evaluar críticamente la información en línea, es esencial para combatir la desinformación.

Sin embargo, muchas personas carecen de estas habilidades, lo que las hace vulnerables a la manipulación y a la difusión de información falsa. Este problema se agrava aún más por la rapidez con la que se difunde la información en las redes sociales y otros medios digitales, donde los algoritmos a menudo priorizan el contenido que genera más interacción, sin tener en cuenta su veracidad. En este contexto, es fundamental promover la educación en alfabetización digital y fomentar un pensamiento crítico para que las personas puedan navegar de manera más efectiva y responsable en el entorno informativo actual.

El futuro de la desinformación.

El futuro de la desinformación es incierto, pero una cosa es clara: no va a desaparecer. Con el avance de la tecnología, las herramientas para crear y difundir información falsa se vuelven cada vez más sofisticadas. La inteligencia artificial (IA), en particular, está jugando un papel cada vez más importante en la generación de contenidos desinformativos. Los algoritmos de IA pueden crear textos, imágenes y videos que parecen auténticos, lo que dificulta aún más la tarea de discernir entre lo real y lo falso. Además, la IA puede personalizar la desinformación para que sea más efectiva en la manipulación de audiencias específicas, aprovechando datos personales y patrones de comportamiento en línea. Este uso avanzado de la tecnología plantea desafíos significativos para la sociedad, ya que la desinformación puede influir en decisiones importantes, desde elecciones políticas hasta comportamientos de salud pública.

La creciente sofisticación de la desinformación también pone en evidencia la necesidad urgente de desarrollar y mejorar las estrategias de detección y mitigación sobre esta plaga digital. Las plataformas de redes sociales y los motores de búsqueda deben implementar mecanismos más robustos para identificar y bloquear contenido falso, mientras que los gobiernos y las organizaciones deben invertir en educación y alfabetización digital para empoderar a los ciudadanos con las habilidades necesarias para evaluar críticamente la información que consumen. La colaboración entre el sector público, el privado y la sociedad civil es esencial para abordar este problema complejo y multifacético. Solo mediante un enfoque integral y coordinado podremos esperar reducir el impacto de la desinformación y proteger la integridad de la información en nuestra era digital.

El papel de la inteligencia artificial.

La IA puede ser una herramienta poderosa tanto para combatir como para propagar la desinformación, y les explico, por un lado los algoritmos de IA pueden detectar patrones de desinformación y ayudar a filtrar contenido falso, identificando fuentes no confiables y analizando la propagación de información engañosa en tiempo real. Además, la IA puede ser utilizada para verificar la autenticidad de imágenes y videos, comparando metadatos y detectando manipulaciones digitales.

Asi mismo desde otra optica, la IA también puede ser utilizada para crear contenido falso de manera más eficiente y convincente. Los “deepfakes”, por ejemplo son videos manipulados que pueden hacer que una persona diga o haga algo que nunca hizo, lo que plantea serios desafíos para la verificación de la información. Además, la IA puede generar textos y artículos falsos que imitan el estilo de escritura humana, haciendo que la desinformación sea aún más difícil de detectar. Este doble filo de la IA subraya la importancia de desarrollar tecnologías éticas y transparentes, así como de implementar regulaciones y educación para mitigar los riesgos asociados con su uso.

¿Qué podemos hacer?

En el Observatorio Guatemalteco de Delitos Informáticos – OGDI, estamos trabajamos arduamente para abordar este problema, llevando programas de educación y alfabetización digital (contenidos multimedias, alertas, una radio en linea que informa 24hrs, etc), que son esenciales para empoderar a los ciudadanos a identificar y resistir la desinformación. Además, es importante que las plataformas digitales asuman una mayor responsabilidad en la moderación de contenido y la transparencia en sus algoritmos (claro esto es una quimera, pero se debe de seguir insistiendo sobre estas plataformas en el uso adecuado y correcto de la información).

Es asi como podemos ver que el tema de la basura digital y la desinformación son problemas complejos que requieren soluciones multifacéticas. Desde la educación hasta la regulación, todos tenemos un papel que desempeñar en la lucha contra esta amenaza. En OGDI, seguiremos trabajando para monitorear, informar y combatir la desinformación, asegurando que la información real prevalezca en este mundo digital cada vez mas completo. Recuerde, que cuidando sus datos, cuida la ciberseguridad de su familia.

Redacción de José Leonett , especialista en temas relacionados con delitos informáticos, ciberseguridad e informática forense. Actualmente es el director de la unidad de ciberpatrullaje en el Observatorio Guatemalteco de Delitos Informáticos (OGDI).