Sirve para cambiar la caras de personas en cualquier tipo de vídeo, pero lo están usando para hacer vídeos porno falsos con el rostro de celebridades.
No es nada nuevo que a la gente le gusta la tecnología que le permite cambiar caras en fotos con máscaras o con el llamado face swap (intercambio de rostros). Pero desde diciembre, hay una nueva tendencia de crear vídeos porno falsos con el rostro de celebridades a través de la inteligencia artificial (IA) que ha ido en auge.
Todo comenzó cuando Motherboard descubrió el hobby del usuario «deepfakes» en Reddit: usar IA para hacer vídeos porno con el rostro de celebridades como Gal Gadot, Maisie Williams o Taylor Swift. Para ello, solamente usa el ordenador de su casa, un algoritmo de machine learning, vídeos disponibles al público en general y tiempo de ocio.
¿Cómo funciona? Las técnicas de entrenamiento de IA como el aprendizaje automático permiten incorporar decenas de fotografías a un algoritmo que crea máscaras humanas convincentes para reemplazar las caras de cualquier persona en un vídeo mediante el uso de datos parecidos y permitiendo que el software se capacite para mejorar con el tiempo. En estos vídeos porno falsos, lo que hacen es cambiar el rostro de una celebridad por la de una actriz de pornografía. Fascinante y aterrador al mismo tiempo, como muestra el vídeo a continuación en el que parece que es Gal Gadot, pero la persona que vemos no es ella:
.smarty-0K8HLQbFkyE_1516906169372 { position: relative; padding-bottom: 56.25%; height: 0; overflow: hidden; max-width: 100%; height: auto; } .smarty-0K8HLQbFkyE_1516906169372 iframe, .smarty-0K8HLQbFkyE_1516906169372 object, .smarty-0K8HLQbFkyE_1516906169372 embed { position: absolute; top: 0; left: 0; width: 100%; height: 100%; }
Deepfakes
La nueva moda ganó tantos adeptos que «deepfakes» creó hace dos meses un subreddit con su nombre de usuario solo para este tipo de vídeos, y ya tiene más de 15.000 suscriptores. Ahora, esta comunidad usa la palabra deepfake para referirse a dichos vídeos creados con IA.
Pero el asunto no se detuvo ahí. Para simplificarle las cosas a todos, otro usuario de Reddit, «deepfakeapp», decidió crear una aplicación llamada FakeApp para que cualquier persona sin experiencia en informática pueda hacer sus propios vídeos porno mediante IA. Esta app de escritorio está basada en el algoritmo de «deepfakes», pero fue creada por «deepfakeapp» sin la ayuda de las deepfakes originales. Y, aunque sirve para hacer cualquier tipo de vídeo, la gente parece más interesada en seguir creando pornografía falsa. Todas las herramientas que uno necesita para hacer uno de estos vídeos son gratuitas y están disponibles junto con un instructivo para principiantes.
«Creo que la versión actual de la aplicación es un buen comienzo, pero espero optimizarla aún más en los próximos días y semanas», dijo el usuario «deepfakeapp» a Motherboard, y añadió:
Eventualmente, quiero mejorarla hasta el punto en que los posibles usuarios puedan simplemente seleccionar un vídeo en su ordenador, descargar una red neuronal correlacionada con una determinada cara de una biblioteca pública, y cambiar el vídeo con una cara diferente con tan solo presionar un botón.
Sin embargo, como ocurre con casi toda la tecnología, su uso puede ser un arma de doble filo. Si bien se pueden crear contenidos con efectos similares a los del séptimo arte, también podría derivar en un desafortunado caso de porno de venganza.
El que se muestra a continuación es uno de los vídeos (no porno) que han sido creados con FakeApp. ¿Puedes distinguir el verdadero del que fue hecho con con la app de IA? El de arriba es una escena que aparece en Rogue One y el de abajo fue editado con FakeApp con el rostro de una actriz cuyos rasgos son similares a los de Carrie Fisher: