Qué son los “deepfakes”

Una nueva medida entró en vigor en China para regular los “deepfakes”, fotos, vídeos o audios manipulados y cada vez más realistas que suponen un reto en la lucha contra la desinformación.

¿Qué son los “deepfakes”?

Los “deepfakes” son vídeos manipulados u otras representaciones digitales ultrarrealistas producidas por inteligencia artificial (IA). 

Su nombre viene de una mezcla “deep learning” (aprendizaje profundo en inglés), una corriente de IA, y “fake” (falso). Por lo tanto, es el aprendizaje con IA que se utiliza con la intención de crear contenido falso. 

“Por medio de imágenes reales, se entrena a un algoritmo que aprenda y genere una nueva imagen, pero falsa. De esta manera, la “máquina” aprende cómo la persona se ve, habla o se mueve“, señala Teresa Correa, directora del centro de investigación CICLOS UDP e investigadora de los Núcleos Milenio en Desigualdades y Oportunidades Digitales (NUDOS) y Futuros de la Inteligencia Artificial (FAIR).

Los “deepfakes” salieron a la luz en 2017 cuando un usuario de Reddit publicó vídeos que mostraban a celebridades en situaciones sexuales comprometedoras. Se trata de montajes difíciles de detectar,  donde se puede reemplazar el rostro de una persona por el de otra o falsificar las declaraciones. 

En la actualidad los “deepfakes” se están volviendo cada vez más sofisticados y accesibles, cualquiera que tenga acceso a internet puede crear uno. Además están creados para ser compartidos fácilmente por las redes sociales donde abunda la desinformación, confusiones, estafas o fraudes. 

“Su mayor riesgo es la suplantación. Puede ser un ciberdelincuente que quiere hacerle daño a una figura pública y diseminar noticias falsas. Pero también se ha dado el caso que se ha usado el deepfake para suplantar un familiar o un compañero de trabajo para realizar ciertas estafas”, explica Hellis Leiva, especialista de Tecnologías de Ciberseguridad en Soluciones Orión – CEH.

China: el primer país que regula los “deepfakes”

Frente a los riesgos que suponen los “deepfakee” es que China creó una mundo para proteger a las personas de la suplantación digital de su imagen o voz sin consentimiento. 

‘Provisions on the Administration of Deep Synthesis of Internet Information Services’,  se trata de la primera ley en el mundo que regula los “deepfake” y frena la desinformación, aumentado el control del país sobre el contenido de internet. 

La nueva normativa, que entró en vigor el pasado 10 de enero, exige a las empresas que ofrecen servicios de “deepfakes” que obtengan consentimiento real de los usuarios para utilizar su imagen. Además las obliga a  precisar cuándo se trata de videos manipulados, para evitar “cualquier confusión”.

También esta regulación prohíbe los videos que atenten contra la seguridad e intereses nacionales, dañen la imagen de China o perturben la economía del país. 

Si bien China está a la vanguardia de la regulación de nuevas tecnologías, los gobiernos  de Reino Unido, Taiwán y Estados Unidos también anunciaron su intención de prohibir la creación de vídeos pornográficos creados con esta herramienta.