Seguridad

Encuentran un bot generador de deepfakes porno en Telegram

Encuentran un bot generador de deepfakes porno en la app de mensajería Telegram

Los deepfakes son cada vez más populares, temidos y peligrosos. Desde Panda Security alertan de su proliferación en redes sociales como Telegram, donde se ha encontrado un bot generador de falsos vídeo porno que ha publicado al menos 100.000 contenidos sexuales no consentidos.

La Inteligencia Artificial puede brindarnos ayuda en múltiples menesteres pero también está implicada en asuntos controvertidos o problemas de ciberseguridad como la generación y propagación de deepfakes de carácter pornográfico, algo que ha acontecido recientemente en la red social Telegram. Los investigadores han descubierto que un bot facilitaba la sustitución de los cuerpos vestidos en las fotos por imágenes de desnudos, de los que al menos 100.000 se han publicado online.

No todas las imágenes tienen el mismo nivel de autenticidad, pero muchas de ellas pueden pasar por auténticas. Ha sido la empresa especializada en la detección de deepfakes Sensity, quien ha alertado sobre el bot, que cada día mandaba una nueva galería de imágenes -con falsos desnudos de amigas y conocidas- a un canal de Telegram con alrededor de 25.000 suscriptores.

Sensity ha contabilizado las imágenes públicas pero la app también permite generarlas en privado. Tanto el bot como los canales son en su mayoría rusos, aunque se han detectado traducciones al inglés. Y parece basarse en el software DeepNude, basado en GAN.

Qué son los deepfakes telefónicos (y cómo evitar ser víctima de uno)

Las imágenes se generan de forma automática colgando la fotografía de la persona vestida. Sensity alerta de que la tecnología sólo funciona con fotografías de mujeres y que aunque es de uso libre -limitado a 10 imágenes por usuario cada día- es preciso pagar un extra para eliminar las marcas de agua. La versión de pago cuesta cerca de 8 dólares para conseguir 112 imágenes diarias. Algunas de las imágenes creadas parecen pertenecer a menores.

Hasta el momento Telegram no se ha pronunciado sobre el asunto y no respondió cuando los analistas pusieron la denuncia hace meses. El canal principal que alojaba el bot y un canal afiliado han sido borrados, mientras que el bot también ha sido bloqueado en iOS al incumplir las directrices de la App Store. Mientras, las autoridades italianas lo están investigando.

Los expertos temen que este tipo de imágenes se utilicen cada vez más para humillar y chantajear a mujeres en línea. La tecnología de los deepfakes se está desarrollando deprisa, mucho más rápido que la legislación que los regula. Desde que aparecieron por primera vez estas falsificaciones, a finales de 2017, se han utilizado principalmente para abusar de la imagen de mujeres. Y su crecimiento en el último año ha sido exponencial, ya que la tecnología necesaria para generarlos se está volviendo más barata y fácil de usar. En julio de 2019 había 14.678 vídeos de deepfakes en línea, según una investigación previa de Sensity. Para junio de este año el número había subido a casi 50.000.

Cabe destacar que el 96% de los deepfakes creados en 2018 consistían en porno con mujeres, lo que nos debe llevar a replantearnos el uso de la tecnología, nuevas regulaciones y límites a la IA en ese tipo de herramientas.

Fuente | Panda Security

Te recomendamos

Sobre el autor

Andrea Núñez-Torrón Stock

Licenciada en Periodismo y creadora de la revista Literaturbia. Entusiasta del cine, la tecnología, el arte y la literatura.