La pornografía que utiliza una mezcla de imágenes y vídeos reales y generados -los llamados “deepfakes”- ha proliferado en la red, según un nuevo estudio que pone de relieve la propagación viral de esta tecnología naciente.
Hasta septiembre, se subieron más de 113.000 vídeos falsos y alterados digitalmente a unos 35 sitios web, un 54% más que en 2022, según un estudio obtenido por Wired.
Una parte significativa del tráfico -entre el 50% y el 80%- a los sitios web que alojan porno deepfake no procede de algún rincón oscuro de la red, sino de las puertas principales de Internet: las búsquedas en Google y Bing, según el estudio.
Al igual que ocurre con otros contenidos generativos de inteligencia artificial, los creadores de vídeos parecen extraer contenidos de toda la red para generar los vídeos deepfake, utilizando imágenes y vídeos de personas aparentemente sin su consentimiento. A continuación, esos contenidos se convierten en entretenimiento para adultos y se suben a Internet, exponiendo potencialmente a ciudadanos involuntarios al acoso, el abuso y la vergüenza cuando sus imágenes circulan en estos vídeos e imágenes explícitos.
La nueva investigación destaca 35 sitios web diferentes, que existen para alojar exclusivamente vídeos de pornografía deepfake o incorporar los vídeos junto con otro material para adultos. Aunque muchos de los sitios web dejan claro que alojan o difunden vídeos porno deepfake, esa advertencia no supone una merma en audiencia. Algunos de los vídeos analizados en el estudio referenciado por Wired han sido vistos millones de veces.
Los deepfakes se hacen más sofisticados
Las imágenes generadas por inteligencia artificial existen desde hace mucho tiempo, pero últimamente se han vuelto inquietantemente sofisticadas. Véase, por ejemplo, a todas las personas que se dejaron engañar por la foto viral generada por inteligencia artificial del Papa con una chaqueta abullonada, creada por Midjourney, un generador de imágenes basado en inteligencia artificial. El Papa con un ostentoso abrigo puede ser divertido, pero el lado oscuro de esta tecnología no es cosa de risa. Una investigación de Kat Tenbarge, de NBC News, muestra lo preocupantemente extendido y accesible que se ha vuelto el porno deepfake no consentido.
No hace falta entrar en la web oscura ni ser un experto informático para encontrar deepfake porn. Como descubrió NBC News, dos de los mayores sitios web que alojan este contenido son fácilmente accesibles a través de Google. Los creadores de los sitios utilizan la plataforma de chat en línea Discord para anunciar sus productos, y la gente puede pagar con tarjetas Visa y Mastercard. El negocio está tan en auge que “dos populares creadores de deepfakes están anunciando puestos remunerados para ayudarles a crear contenidos”.
Las mujeres son las grandes víctimas
No es ninguna sorpresa que sean las mujeres las grandes afectadas por el auge del porno deepfake. Un informe de 2019 de Sensity, una empresa que detecta y monitoriza deepfakes, descubrió que el 96% de los deepfakes eran deepfakes sexuales no consentidos, y de ellos, el 99% estaban protagonizados por mujeres.
Cada vez más, las mujeres objetivo no son sólo famosas: se puede conseguir porno deepfake hecho a medida, con cualquier persona que se desee. “Un creador ofreció en Discord hacer un deepfake de cinco minutos de una ‘chica anónima’, es decir, cualquiera con menos de 2 millones de seguidores en Instagram, por 65 dólares”, informa NBC.
El auge del deepfake porn -que ha sido facilitado por grandes empresas- ya está teniendo un impacto masivo en la vida de la gente corriente. A principios de este año, un streamer de Twitch llamado Brandon “Atrioc” Ewing admitió haber comprado y visto porno deepfake de sus colegas femeninas. Lo admitió, por cierto, porque cometió un desliz en una retransmisión en directo y accidentalmente mostró ventanas del navegador abiertas a un sitio web de alguien que hacía deepfakes de streamers.
Tras ser descubierto, publicó un vídeo de disculpa bastante terrible (en el que aparecía su mujer llorando de fondo) y afirmó haber transferido a un bufete de abogados de Los Ángeles “unos 60.000 dólares” para cubrir a cualquier mujer de Twitch que quisiera utilizar sus servicios legales para conseguir que esas imágenes y vídeos fueran retirados de los sitios web.
Tal y como señala NBC, tras esta polémica en Twitch, las búsquedas de deepfake porn en Google se dispararon. A estas alturas parece imposible que Internet deje de inundarse con estos vídeos falsos. Lo que sí es más posible es que los legisladores y las empresas tecnológicas empiecen a ver el problema del porno deepfake no consentido como la emergencia que es y exijan responsabilidades a sus creadores y facilitadores.
