Nuevos pasos para combatir la desinformación

Hoy, estamos anunciando dos nuevas tecnologías para combatir la desinformación, un nuevo trabajo para ayudar a educar al público sobre el problema y asociaciones para ayudar a avanzar estas tecnologías y los esfuerzos educativos rápidamente.

No hay duda de que la desinformación está muy extendida. La investigación que apoyamos del profesor Jacob Shapiro en Princeton , actualizada este mes, catalogó 96 campañas de influencia extranjera separadas dirigidas a 30 países entre 2013 y 2019. Estas campañas, realizadas en las redes sociales, buscaban difamar a personas notables, persuadir al público o polarizar debates. Si bien el 26% de estas campañas se dirigieron a los EE. UU., otros países a los que se dirigieron incluyen Armenia, Australia, Brasil, Canadá, Francia, Alemania, los Países Bajos, Polonia, Arabia Saudita, Sudáfrica, Taiwán, Ucrania, el Reino Unido y Yemen. El 93% de estas campañas incluyeron la creación de contenido original, el 86% ampliaron contenido preexistente y el 74% tergiversaron hechos objetivamente verificables. Informes recientes también muestran que se ha distribuido desinformación sobre laPandemia de COVID-19 , que provoca muertes y hospitalizaciones de personas que buscan supuestas curas que en realidad son peligrosas.

Lo que estamos anunciando hoy es una parte importante del programa Defending Democracy de Microsoft que, además de combatir la desinformación, ayuda a proteger la votación a través de ElectionGuard y ayuda a proteger las campañas y a otras personas involucradas en el proceso democrático a través de AccountGuard , Microsoft 365 para campañas y elecciones . Asesores de seguridad . También es parte de un enfoque más amplio en la protección y promoción del periodismo, como lo discutieron Brad Smith y Carol Ann Browne en sus Top Ten Tech Policy Issues for the 2020s.

Nuevas tecnologías

La desinformación se presenta de muchas formas, y ninguna tecnología por sí sola resolverá el desafío de ayudar a las personas a descifrar lo que es verdadero y exacto. En Microsoft, hemos estado trabajando en dos tecnologías separadas para abordar diferentes aspectos del problema.

Un problema importante son los deepfakes , o medios sintéticos, que son fotos, videos o archivos de audio manipulados por inteligencia artificial (IA) de formas difíciles de detectar. Podrían parecer que hacen que las personas digan cosas que no dijeron o que están en lugares en los que no estaban, y el hecho de que sean generados por IA que puede seguir aprendiendo hace que sea inevitable que superen la tecnología de detección convencional. Sin embargo, a corto plazo, como las próximas elecciones estadounidenses, las tecnologías de detección avanzadas pueden ser una herramienta útil para ayudar a los usuarios más exigentes a identificar las falsificaciones profundas.

Hoy anunciamos Microsoft Video Authenticator. Video Authenticator puede analizar una foto fija o un video para proporcionar un porcentaje de probabilidad, o un puntaje de confianza, de que los medios estén manipulados artificialmente. En el caso de un video, puede proporcionar este porcentaje en tiempo real en cada cuadro a medida que se reproduce el video. Funciona al detectar el límite de fusión de los elementos de escala de grises o desvanecimientos sutiles y falsos profundos que podrían no ser detectables por el ojo humano.

Esta tecnología fue desarrollada originalmente por Microsoft Research en coordinación con el equipo de IA responsable de Microsoft y el Comité de IA, Ética y Efectos en Ingeniería e Investigación (AETHER) de Microsoft, que es un consejo asesor de Microsoft que ayuda a garantizar que se desarrolle y aplique nueva tecnología. de manera responsable. Video Authenticator se creó utilizando un conjunto de datos público de Face Forensic++ y se probó en el conjunto de datos del Desafío de detección de DeepFake , ambos modelos líderes para entrenar y probar tecnologías de detección de falsificaciones profundas.

Esperamos que los métodos para generar medios sintéticos continúen creciendo en sofisticación. Como todos los métodos de detección de IA tienen tasas de falla, debemos comprender y estar preparados para responder a las falsificaciones profundas que se cuelan a través de los métodos de detección. Por lo tanto, a más largo plazo, debemos buscar métodos más sólidos para mantener y certificar la autenticidad de los artículos de noticias y otros medios. Hay pocas herramientas hoy en día para ayudar a asegurar a los lectores que los medios que están viendo en línea provienen de una fuente confiable y que no fueron alterados.

Hoy, también estamos anunciando una nueva tecnología que puede detectar contenido manipulado y asegurar a las personas que los medios que están viendo son auténticos. Esta tecnología tiene dos componentes. La primera es una herramienta integrada en Microsoft Azure que permite a un productor de contenido agregar hash y certificados digitales a una pieza de contenido. Los hash y los certificados viven con el contenido como metadatos dondequiera que viaje en línea. El segundo es un lector, que puede existir como una extensión del navegador o en otras formas, que verifica los certificados y compara los valores hash, lo que permite que las personas sepan con un alto grado de precisión que el contenido es auténtico y que no ha sido modificado. así como proporcionar detalles sobre quién lo produjo.

Esta tecnología ha sido desarrollada por Microsoft Research y Microsoft Azure en asociación con el Programa Defending Democracy. Impulsará una iniciativa anunciada recientemente por la BBC llamada Project Origin.

Asociaciones

Ninguna organización por sí sola podrá tener un impacto significativo en la lucha contra la desinformación y los deepfakes dañinos. Haremos lo que podamos para ayudar, pero la naturaleza del desafío requiere que se adopten ampliamente múltiples tecnologías, que los esfuerzos educativos lleguen a los consumidores en todas partes de manera constante y que sigamos aprendiendo más sobre el desafío a medida que evoluciona.

Hoy destacamos las asociaciones que hemos estado desarrollando para ayudar en estos esfuerzos.

En primer lugar, nos asociamos con AI Foundation, una empresa dual comercial y sin fines de lucro con sede en San Francisco, con la misión de llevar el poder y la protección de la IA a todos en el mundo. A través de esta asociación, la iniciativa Reality Defender 2020 (RD2020) de AI Foundation pondrá Video Authenticator a disposición de las organizaciones involucradas en el proceso democrático, incluidos los medios de comunicación y las campañas políticas. Video Authenticator inicialmente estará disponible solo a través de RD2020, que guiará a las organizaciones a través de las limitaciones y consideraciones éticas inherentes a cualquier tecnología de detección de falsificaciones profundas. Campañas y periodistas interesados ​​en conocer más pueden contactarse con el RD2020 aquí .

En segundo lugar, nos hemos asociado con un consorcio de empresas de medios, incluidas la BBC, CBC/Radio-Canada y el New York Times en Project Origin , que pondrá a prueba nuestra tecnología de autenticidad y la ayudará a avanzar como un estándar que se puede adoptar ampliamente. La Trusted News Initiative , que incluye una variedad de editores y empresas de redes sociales, también acordó participar con esta tecnología. En los próximos meses, esperamos ampliar el trabajo en esta área a más empresas de tecnología, editores de noticias y empresas de redes sociales.

La alfabetización mediática

También nos asociamos con la Universidad de Washington (UW), Sensity y USA Today en alfabetización mediática. Mejorar la alfabetización mediática ayudará a las personas a diferenciar la desinformación de los hechos genuinos y a gestionar los riesgos que plantean las falsificaciones profundas y las falsificaciones baratas. El conocimiento práctico de los medios puede permitirnos a todos pensar críticamente sobre el contexto de los medios y convertirnos en ciudadanos más comprometidos sin dejar de apreciar la sátira y la parodia. Aunque no todos los medios sintéticos son malos, se ha demostrado que incluso una breve intervención con recursos de alfabetización mediática ayuda a las personas a identificarlos y tratarlos con más cautela.

prueba de falsificaciones profundas

Hoy, estamos lanzando un cuestionario interactivo para votantes en los Estados Unidos para aprender sobre los medios sintéticos, desarrollar habilidades críticas de alfabetización mediática y ganar conciencia sobre el impacto de los medios sintéticos en la democracia. El Cuestionario Spot the Deepfake es una herramienta de alfabetización mediática en forma de una experiencia interactiva desarrollada en colaboración con el Centro para un Público Informado de la Universidad de Washington, Sensity y USA Today. El cuestionario se distribuirá a través de las propiedades web y de redes sociales propiedad de USA Today, Microsoft y la Universidad de Washington ya través de publicidad en las redes sociales.

Además, en colaboración con Radio Television Digital News Association , The Trust Project y el Center for an Informed Public and Accelerating Social Transformation Program de la Universidad de Washington, Microsoft apoya una campaña de anuncio de servicio público (PSA) que alienta a las personas a hacer una “pausa para reflexionar” y comprobar para asegurarse de que la información provenga de una organización de noticias acreditada antes de compartirla o promocionarla en las redes sociales antes de las próximas elecciones estadounidenses. La campaña de PSA ayudará a las personas a comprender mejor el daño que la información errónea y la desinformación tienen en nuestra democracia y la importancia de tomarse el tiempo para identificar, compartir y consumir información confiable. Los anuncios se transmitirán en las estaciones de radio de los Estados Unidos en septiembre y octubre.

Finalmente, en los últimos meses hemos ampliado significativamente nuestra implementación de NewsGuard , que permite a las personas obtener más información sobre una fuente de noticias en línea antes de consumir su contenido. NewsGuard opera un equipo de periodistas experimentados que califican los sitios web de noticias en línea sobre la base de nueve criterios de integridad periodística, que utilizan para crear una “etiqueta de nutrición” y una calificación roja/verde para cada sitio web de noticias calificado. Las personas pueden acceder al servicio de NewsGuard descargando una extensión de navegador simple, que está disponible para todos los navegadores estándar. es gratispara usuarios del navegador Microsoft Edge. Es importante destacar que Microsoft no tiene control editorial sobre ninguna de las calificaciones de NewsGuard y la extensión del navegador NewsGuard no limita el acceso a la información de ninguna manera. En cambio, NewsGuard tiene como objetivo proporcionar una mayor transparencia y fomentar la alfabetización mediática al proporcionar un contexto importante sobre la fuente de noticias en sí.

Consideraciones de política

Los gobiernos, las empresas, las organizaciones sin fines de lucro y otros en todo el mundo tienen un papel fundamental que desempeñar para abordar ampliamente la desinformación y la interferencia electoral. En 2018, el Llamado de París para la confianza y la seguridad en el ciberespacio reunió a un grupo de múltiples partes interesadas de líderes mundiales que se comprometieron con nueve principios que ayudarán a garantizar la paz y la seguridad en línea. Uno de los más críticos de estos principios es la defensa de los procesos electorales. En mayo, Microsoft, la Alianza para Asegurar la Democracia y el Gobierno de Canadá lanzaron un esfuerzo para liderar actividades globales sobre este principio. Alentamos a cualquier organización interesada en contribuir a unirse al Llamamiento de París .

Fuente: Microsoft