Un deepfake es un video, imagen o audio generado, que imita la apariencia y el sonido de una persona a través de Inteligencia Artificial (IA). También llamados “medios sintéticos”, llegan a ser tan convincentes que pueden engañar tanto a personas como a los algoritmos.

Desde canciones cantadas por personajes que no son los autores, a videos de tu ídolo deseándote feliz cumpleaños o enviando cualquier mensaje que solicites, hasta supuestas filtraciones de fotos de famosas desnudas. Nada es real. Y es que ese es el poder del mal uso de la IA . Entonces, ¿hasta qué punto es útil y hasta dónde puede convertirse en un problema?

Estas prácticas han llegado a afectar incluso a muchas famosas. Entre ellas, la actriz Emma Watson, la influencer y deportista española Marina Rivers, la influencer Laura Escanes, Taylor Swift y la mismísima Rosalía.

Me ha llegado un link donde hay fotos mías desnuda editadas y creadas por IA. A parte de sentirme totalmente utilizada y expuesta, hay algo que hace que me hierva la sangre. El cuerpo de una mujer no se utiliza. Ni para el placer, ni para abusar ni para manipular. Me repugna la…

— Laura Escanes (@LauraEscanes) August 15, 2023

Si bien hay reacciones diferentes frente a sus casos, el denominador común en sus declaraciones el cuerpo de una mujer no se utiliza ni es de propiedad pública.

El cuerpo d una mujer n es propiedad pública, no es una mercancía xa tu estrategia d marketing. Esas fotos estaban editadas y creaste una falsa narrativa alrededor cuando ni t conozco. Existe algo llamado consentimiento y todos a los q os pareció gracioso o plausible espero de…

— R O S A L Í A (@rosalia) May 24, 2023

Deepfake en colegios

Sin embargo, no es un problema que afecta solo a celebridades o personas de renombre como Barack Obama o Cristiano Ronaldo y las mujeres mencionadas anteriormente, el deepfake llega incluso a los colegios.

Hace algunos unos días en España, hubo de más de quince niñas, entre los 11 y 17 años, que denunciaron haber sido víctimas de deepfakes por parte de sus compañeros de curso. Estos, difundieron a través de WhatsApp material pornográfico falso creado por IA con la cara de las menores.

Un hecho que sorprende por la intención de los alumnos y lo que significa en cuanto el criterio de los adolescentes. Por su parte, la policía nacional de dicho país ha identificado a 11 menores responsables, quienes por ser menores de 14 años resultan inimputables ante dicho Código Penal. De ser mayores, podrían arriesgar hasta dos años de cárcel.

Como esto, ocurrió algo similar en un colegio de Lima, Perú. En este caso, las víctimas también fueron niñas y los culpables niños. Todos menores de edad.

Dos alumnos del colegio peruano trucaron fotografías de 12 compañeras con IA, y las convirtieron en imágenes sexuales vendidas en Internet.

Estos casos dejan en evidencia la importancia de la educación sobre el correcto uso del Internet. Por su parte, este año la Oficina Federal de Investigación de los Estados Unidos (FBI) advirtió sobre el considerable aumento de deepfakes para la “sextorsion”: amenazas y chantaje sobre la difusión del contenido creado por Inteligencia Artificial para conseguir dinero u otro tipo de acciones a cambio.

Pero ¿qué pasa con las leyes?

Este año, el Parlamento Europeo aprobó un proyecto de ley que regula el uso de la Inteligencia Artificial. Y se estima que esté aprobado para fines de este año. Esto, porque debe ser pactado entre los 27 Estados miembros de la Unión Europea (UE).

Sin embargo, este proyecto no apunta a casos puntuales de deepfake como los que perjudicaron a las niñas de España y Perú. Para ellos, la Unión Europea tendría que ajustar su ley de IA y adaptarla también para los casos de desnudos falsos. De ser así, sería una medida pionera internacionalmente hablando. La cual velaría por la sanción de los culpables detrás de los deepfakes, además de proteger a las víctimas de los mismos que, en su mayoría, son mujeres y niñas.