Mucho hemos platicado de lo sorpresiva o emocionante que puede llegar a ser la Inteligencia Artificial; de sus aplicaciones que están revolucionando al mundo de la tecnología, la educación o incluso el arte. Sin embargo, no todo es color de rosa. También existe un lado oscuro que, además, se acaba de hacer presente con el escándalo de un streamer llamado Atrioc.
Un escándalo que habla de las fotos de desnudos generadas por IA.
Esta historia comenzó como una polémica de la comunidad de Twitch, pero no se quedó ahí.
Conforme ha ido escalando, se han tocado temas importantísimos como el consentimiento digital o la manera en que puede afectar nuestras fotos más privadas, el abuso hacia personalidades públicas, la privacidad o incluso preguntarnos a dónde nos puede llevar la tecnología si no nos la llevamos con cuidado.
El escándalo del streamer Atrioc
Atrioc —que se llama en verdad Brandon Ewing— es un streamer originario de Estados Unidos que transmite contenido de videojuegos en Twitch.
Tiene más de 300 mil seguidores en la plataforma.
Todo iba relativamente normal hasta que, el pasado 30 de enero, apareció en Reddit un video que desenmascaraba el escándalo. En una transmisión en vivo, Atrioc abrió su navegador de internet y al revisarlo detalladamente se podía notar que, en una de las pestañas, tenía abierta una página de fotos para adultos —nopor, pues.
Sin embargo, no se trataba de una página nopor cualquiera. Se trataba de un sitio que toma fotografías de celebridades para crear fotos de desnudos con IA, conocidas coloquialmente como deepfake.
Pero eso no fue todo.
Como si eso no fuera suficientemente grave, esa página se especializaba en hacer deepfakes de streamers famosas para aparentar que se trataba de sus imágenes privadas o desnudos. Las mujeres que aparecen en esas fotos son compañeras, amigas o conocidas del propio Atrioc.
Las reacciones al escándalo de Atrioc
La comunidad de streamers entendió lo preocupante de la situación. Especialmente algunas de las mujeres que aparecían en esa página y fueron víctimas de esta modalidad de abuso tecnológico.
Pokimane pidió en sus redes sociales que dejaran de sexualizar a las personas sin su consentimiento.
QTCinderella envió un mensaje en el que exigía que la gente se detuviera. Que no compartieran las imágenes. “Ser vista “desnuda” en contra de tu voluntad no debería ser parte de este trabajo”, comentaba la streamer.
Otras streamers como Sweet Anita se dieron cuenta que aparecían en el sitio gracias a los reportes de este escándalo. “No se si llorar, romper cosas o reír”, escribió. “Este no debería ser el precio a pagar si lo que quieres es entretener a las personas”.
Maya Higa reclamó: “He sido usada por miles de hombres para su gratificación sin mi consentimiento”.
El streamer Atrioc se disculpó en un video.
Con su esposa acompañándolo en la transmisión —¿?— aseguró que era la primera vez que entraba a ese sitio, que se había interesado en la IA por lo que le había dado curiosidad. Confesó que había pagado dinero por ese contenido. Pidió perdón y anunció que se retiraría de internet por un tiempo.
Las preocupantes deepfakes
Aquí es donde viene lo importante.
Las deepfakes o fotos desnudas generadas por IA son una preocupante forma de abuso digital de la que rara vez platicamos. Normalmente se reportan las posibilidades políticas —¿se acuerdan de aquel video de Obama?—, pero el daño a las personas, especialmente mujeres famosas, es también tremendo.
Un estudio del European Science-Media Hub revelaba que cerca del 96% de todos los deepfakes que circulan en internet son pornográficos y sus protagonistas no dieron su consentimiento.
El abuso en esta tecnología ha probado ser malicioso.
“Las mayores amenazas son para mujeres”, aseguraba un estudio en los riesgos del deepfake por el Departamento de Seguridad en Estados Unidos.
Y es que no solamente son las imágenes. Quienes son víctimas de este tipo de abusos digitales como los deepfakes han sido también víctimas de chantaje, de maltrato o de amenaza. Incluso —reporta el MIT— este tipo de imágenes creadas por IA han sido utilizadas para silenciar a personas incómodas.
Usar deepfakes pornográficos en México es ilegal. La Ley Olimpia contempla también a los contenidos “simulados” como parte de la violencia digital.