DeepNude: una vil app que “desnuda” a las mujeres usando IA

Desde que aparecieron los “DeepFakes”, se veía venir. Un desarrollador anónimo creó una aplicación que permite a los usuarios crear imágenes de mujeres desnudas de aspecto realista. Afortunadamente, la app fue dada de baja luego de que­­ se viralizara y fuera el blanco de justificadas críticas, según recoge el autor original de este artículo Victor Román en N+1 y comparte Paula Dumas para Periodista Digital

Según recoge Motherboard, DeepNude generaba imágenes falsas con solo un click. Un usuario subía la foto de una mujer y dejaba que el software, basado en IA, hiciera su trabajo. Aunque las mujeres imágenes de las mujeres desnudas aparecían con un sello de agua, esta supuesta “seguridad” podía ser retirada fácilmente. Por otro lado, el sitio web vende una versión premium por 50 dólares que elimina la marca de agua.

DeepNude es problemática porque solo genera imágenes manipuladas de mujeres, no de hombres. Esto puede hacer que personas inescrupulosas utilicen la app para crear fotos falsas y las difundan por internet dando lugar a chantajes y bullying escolar.

Las reacciones
A pesar de eso, Alberto, el desarrollador detrás de DeepNude, se defendió diciendo a Motherboard que no era "un voyeur”, sino “un entusiasta de la tecnología". Alberto dijo que su software está basado en pix2pix, un algoritmo de código abierto utilizado para la "traducción de imagen a imagen". Pix2pix y otro software deepfake utilizan una red de confrontación generativa (GAN), un algoritmo que genera repeticiones de representaciones falsas que pudieron engañar a una computadora para que crea que la imagen era legítima.

Hi! DeepNude is offline. Why? Because we did not expect these visits and our servers need reinforcement. We are a small team. We need to fix some bugs and catch our breath. We are working to make DeepNude stable and working. We will be back online soon in a few days.

— deepnudeapp (@deepnudeapp) 27 de junio de 2019

En ese sentido, el equipo que desarrolló Pix2pix, un grupo de investigadores de ciencias de la computación, calificó el uso de DeepNude como "bastante preocupante". "Hemos visto algunos usos maravillosos de nuestro trabajo por parte de médicos, artistas, cartógrafos, músicos y más", dijo a Business Insider el profesor del MIT Phillip Isola, quien ayudó a crear el programa.

Pero, "nosotros, como comunidad científica, debemos entablar una discusión seria sobre la mejor manera de hacer avanzar nuestro campo y establecer salvaguardas razonables para garantizar que podamos beneficiarnos de los casos de uso positivos y al mismo tiempo mitigar el abuso", añadió el investigador.
Finalmente, Alberto decidió darle de baja a la app. "El mundo aún no está listo para DeepNude", explicó a través de su cuenta de Twitter. "Creamos este proyecto para el entretenimiento de los usuarios hace unos meses. Pensamos que venderíamos algo todos los meses de manera controlada … Nunca pensamos que se volvería viral y no podríamos controlar el tráfico", añadió.

"A pesar de las medidas de seguridad adoptadas (marcas de agua) si 500 mil personas la utilizan, las probabilidades de que las personas las utilicen de manera inadecuada es muy alta. No queremos hacer dinero de esta manera", finaliza.

Hace unos meses una compañía para adultos prometía convertirte en pornstar usando inteligencia artificial, lo cual desencadenó una serie de problemas como el ampliamente conocido video porno con rostro de la actriz Gal Gadot y otras figuras conocidas internacionalmente.