¿Qué es una falsificación profunda – DeepFakes?

Deep Fakes son imágenes falsas, grabaciones de audio y video que suenan y parecen reales. La palabra deepfake en sí es un acrónimo de aprendizaje profundo y falso, que se refiere a la forma en que se aprovechan el aprendizaje automático y la inteligencia artificial (IA) para crear estas falsificaciones.

La tecnología deep fake se ha empleado con fines de entretenimiento alegre, pero también ha puesto palabras en boca de los políticos, ha permitido estafas de ingeniería social e incluso ha incluido caras de celebridades en contenido pornográfico sin consentimiento.

¿Cómo se crean las falsificaciones profundas?

Puede parecer ciencia ficción o magia de efectos especiales de Hollywood, pero la tecnología deep fake es sorprendentemente accesible. El método más común es la falsificación profunda de intercambio de rostros, que reemplaza el rostro de una persona en un video con el rostro de otra persona.

Este método de intercambio de caras se basa en alimentar datos de video de la persona original y fotografías de la cara de reemplazo a un algoritmo de IA. La IA analiza el rostro original y el rostro nuevo, encuentra similitudes y asigna el rostro nuevo al video existente cuadro por cuadro.

Todo el proceso de creación de una falsificación profunda puede automatizarse mediante servicios basados ​​en la web, pero los algoritmos de IA también están disponibles para su descarga, lo que permite que cualquier persona con experiencia suficiente cree falsificaciones profundas en la computadora de su propia casa.

Se pueden usar procesos similares para crear imágenes falsas que parezcan reales, animar fotos fijas utilizando datos de movimiento de un actor e incluso suplantar de manera realista la voz de una persona. Todo se basa en la inteligencia artificial para desglosar los datos de entrada, como fotos, videos y grabaciones de audio, y luego sintetizar nuevos medios que no se pueden distinguir de los reales.

Algunos ejemplos falsos profundos

Muchas falsificaciones profundas son maliciosas, como poner palabras en la boca de un político, o de naturaleza pornográfica, pero la tecnología también se ha utilizado para medios más alegres.

Aquí hay algunas falsificaciones profundas que puedes comprobar tú mismo:

  • George Lucas y Harrison Ford : este video profundamente falso es solo uno de una serie de videos humorísticos de Collider que filman a impresionistas talentosos y reemplazan sus rostros con celebridades. En este ejemplo, George Lucas y Harrison Ford reaccionan a Baby Yoda de The Mandalorian .
  • The Rock profundamente falsificado en The Rock : En esta profunda falsificación de Corridor Crew, utilizan tecnología de falsificación profunda para arreglar la representación del valle inquietante de Dwayne Johnson como el Rey Escorpión mediante la alimentación de datos de video de IA de Johnson de antes en la misma película.
  • El labio de Henry Cavill arreglado en Superman : los artistas de VFX se vieron obligados a ocultar el bigote de Cavill en algunas escenas de la Liga de la Justicia con resultados caricaturescos. Esta comparación lado a lado muestra cuánto mejor puede hacer una falsificación profunda.
  • La cara de Arnold Schwarzenegger en Bill Hader : En este clip, Bill Hader se hace pasar por la voz de Arnold, y la cara de Arnold está profundamente falsificada con Ctrl Alt Face en el cuerpo de Hader. El efecto se elimina cuando Hader usa su voz normal y se aplica cuando se hace pasar por Schwarzenegger.
  • La voz de Joe Rogan profundamente falsificada por IA : En este clip, el audio del podcast de Joe Rogan se introdujo en un algoritmo de IA para crear un modelo de voz realista capaz de decir prácticamente cualquier cosa.

¿Cómo detectar falsificaciones profundas?

A medida que avanza la tecnología, se ha vuelto cada vez más difícil detectar la diferencia entre una falsificación profunda y la real. Algunos son más fáciles de detectar que otros, pero los mejores se ven y suenan extremadamente reales. Le resultará más fácil detectar los creados por aficionados que no pueden aprovechar una tonelada de experiencia y potencia de procesamiento, pero debe estar atento a los signos reveladores de interferencia de la IA.

Así es como puede detectar una falsificación profunda:

  1. Mire los bordes de la cara : si la IA no recibió suficientes datos de entrada, la nueva cara puede pegarse torpemente en la cabeza original, creando líneas de demarcación obvias o dando como resultado una forma de cara que no se ve bien.
  2. Examine el cabello : si puede ver cabellos individuales cruzando la cara, probablemente sea un video real. La IA tiene dificultades para generar cabello realista, y los cabellos individuales generalmente no serán visibles en las partes de un video generadas por IA.
  3. Preste atención a las bocas y los dientes : la IA suele tener problemas para generar dientes individuales, lo que puede ser fácil de detectar si el video tiene una resolución lo suficientemente alta. También busque cualquier error cuando la boca se abre y se cierra.
  4. Si la persona mira hacia otro lado, pausa el video : las falsificaciones profundas funcionan muy bien cuando la persona está frente a la cámara, pero pueden tener problemas cuando se cambia a una foto de perfil o si la persona se aleja completamente de la cámara.
  5. Tenga cuidado con las fuentes de información desconocidas : si bien es posible que una fuente confiable sea engañada y ejecute una falsificación profunda como si fuera real, es mucho menos probable que lo engañen si se limita a fuentes de noticias confiables.

Fuente: lifewire