Rise of deepfakes: ¿en quién puedes confiar en el metaverso?

En este nuevo mundo virtual del metaverso, es posible que las personas no siempre sean quienes parecen.

En los últimos meses, han aparecido anuncios falsos de celebridades, con Elon Musk, Tom Cruise, Leonardo DiCaprio y otros respaldando negocios, desde inversiones inmobiliarias hasta aprendizaje automático.

Los anuncios se han diseñado cuidadosamente para dejar en claro que en realidad no son representaciones genuinas de celebridades, sino que sirven para resaltar la forma en que la tecnología ahora significa que no siempre podemos creer lo que vemos.

Deepfakes puede ser lo suficientemente difícil de diferenciar de lo real; y con la llegada del metaverso, ¿empeorará el peligro de las falsificaciones profundas?

Según Gartner, se espera que una cuarta parte de las personas pasen al menos una hora al día en el metaverso para 2030, interactuando con colegas, socios comerciales, educadores, amigos y minoristas.

Los usuarios interactuarán entre sí mediante el uso de varios sensores diferentes, seguimiento ocular, seguimiento facial y hápticos, con el objetivo de crear una representación del comportamiento de cada persona que sea lo más realista posible .

Es importante destacar que esto significa que las plataformas de metaverso tendrán una gran cantidad de datos biométricos y de otro tipo sobre sus usuarios, datos que, si están en las manos equivocadas, podrían usarse fácilmente para crear un avatar que podría ser completamente indistinguible del real.

Preocupaciones de Europol

En un informe reciente, Europol examinó algunos de los delitos que podrían tener lugar en el metaverso y las formas en que las fuerzas del orden deberían abordarlos.

Y, señala, las oportunidades de manipulación aumentarán enormemente. En un mundo de CGI, no hay necesidad de crear una imagen fotográfica para crear un deepfake perfecto; todo lo que un criminal tiene que hacer es simplemente reproducir, o robar, los marcadores de una identidad particular. Una vez robado, el avatar falso sería completamente indistinguible del original, desde las expresiones faciales hasta la forma en que se mueve.

“Esto crea problemas de confianza en la identidad de las ‘personas’ en el metaverso; ¿cómo puede estar seguro de con quién está hablando realmente? ¿Se puede usar la IA para procesar lo que está mirando, cómo se siente o cómo interactuar con la gente, y ¿se puede usar esto para influir en la gente?” se pregunta el informe de Europol.

“Por supuesto, este es un problema en Internet en general, pero las aplicaciones de metaverso, debido al aumento significativo en la cantidad de información biométrica valiosa que pueden recopilar, presentarán muchos más problemas en este sentido”.

Posibilidades criminales

Ya se han utilizado deepfakes para hacerse pasar por jefes y contactos comerciales; el año pasado, por ejemplo, los delincuentes usaron la voz deepfake de un ejecutivo de la empresa para engañar al gerente de un banco para que les transfiriera $ 35 millones. Tácticas como esta podrían ser aún más convincentes en el metaverso.

Del mismo modo, los deepfakes podrían usarse para crear respaldos falsos de celebridades o para hacerse pasar por políticos, lo que genera dudas sobre la información errónea. Las marcas también podrían ser suplantadas, quizás mediante la creación de escaparates falsos.

Las identidades secuestradas podrían usarse para crear pornografía de venganza falsa o para implicar a personas en comportamientos ilegales o vergonzosos.

Sin embargo, lo más preocupante de todo son las posibilidades de abuso infantil: podría ser aún más fácil, por ejemplo, que los abusadores se presenten como niños para adormecer a las víctimas con una falsa sensación de seguridad. Mientras tanto, también se podría crear material de abuso sexual infantil (CSAM) falsificado, con el uso de hápticos para generar una experiencia física.

A medida que el metaverso se vuelva más realista, con representaciones más precisas y detalladas de los individuos registrados, todos estos riesgos serán cada vez mayores.

Las plataformas trabajarán para proteger los datos de los ladrones de identidad, crear sistemas efectivos de verificación de identidad y eliminar las falsificaciones profundas donde puedan. Sin embargo, no todos serán necesariamente completamente competentes o dispuestos a hacerlo; después de todo, muchas plataformas existentes fallan con el Internet actual, con muchas menos complicaciones con las que lidiar.

Fuente: cybernews