Investigaciones recientes han puesto de relieve una tendencia creciente y profundamente preocupante: el aumento de los deepfakes pornográficos no consensuados. En particular, se ha descubierto que la industria tecnológica, incluidos actores destacados como Google, Microsoft, Amazon y Cloudflare, alimentan inadvertidamente este aumento. Si bien muchas de estas empresas pueden afirmar ser neutrales, los críticos argumentan que sus servicios están proporcionando la infraestructura crucial para los sitios web deepfake, priorizando así los ingresos sobre las consideraciones éticas.

Por una tarifa de suscripción mensual, los entusiastas pueden acceder a contenido exclusivo de varias personalidades en línea en plataformas como Twitch y Onlyfans. Sin embargo, un rincón más oscuro de Internet permite a los espectadores acceder a videos generados por IA, conocidos como deepfakes, que retratan a estas personalidades en escenas explícitas inventadas en las que nunca participaron. La aparición constante de dicho contenido crea un ciclo interminable de eliminaciones, lo que lo convierte la lucha por de los afectados en un ciclo interminable.

Una investigación de analistas independientes indica un aumento preocupante de nueve veces el número de vídeos de este tipo desde 2019. En mayo de 2023, se identificaron aproximadamente 150.000 vídeos, que acumularon 3.800 millones de visitas, en 30 sitios. Muchos de estos sitios ofrecen bibliotecas de contenido deepfake que presenta rostros de celebridades superpuestos a actores adultos. Lo que es más inquietante es que algunos incluso ofrecen servicios pagos para “desnudar” rostros familiares, ya sean colegas o conocidos.

Importantes gigantes tecnológicos están envueltos en este tema. El motor de búsqueda de Google es una importante fuente de tráfico para sitios deepfake. Plataformas como Amazon, Cloudflare y GitHub de Microsoft ofrecen servicios de alojamiento esenciales. Sin una ley federal en los EE. UU. que criminalice la creación o el intercambio de pornografía deepfake no consensuada, y la legislación a nivel estatal resulta difícil de hacer cumplir, las víctimas se encuentran en gran medida solas.

Sin embargo, cada vez se aboga más por que las corporaciones tecnológicas tomen la iniciativa para frenar la proliferación de dicho contenido. Los críticos instan a estas empresas a establecer y hacer cumplir regulaciones más estrictas. En la actualidad, una simple búsqueda del nombre de una celebridad combinada con «deepfake» en Google puede generar numerosos enlaces a sitios web maliciosos. De julio de 2020 a julio de 2023, el tráfico a los 20 principales sitios deepfake aumentó un 285 %, con Google como principal impulsor.

La revisión de Bloomberg reveló que los principales sitios web falsos dependen en gran medida de las grandes tecnologías para la infraestructura web. Cloudflare Inc. proporciona alojamiento web para 13 de los 20 sitios principales, mientras que Amazon alberga varias herramientas populares de deepfaking. Campañas anteriores han persuadido con éxito a las empresas a dejar de asociarse con plataformas controvertidas, sugiriendo posibles vías para que los activistas aborden el problema de los deepfake de manera similar.

Las herramientas para crear deepfakes se han vuelto más avanzadas y fáciles de usar. Los modelos de código abierto, como Stability AI, permiten a los desarrolladores crear vídeos fotorrealistas. Aunque sus creadores lamentan el mal uso de estas herramientas, la naturaleza de código abierto significa que el control sobre las aplicaciones es limitado.

A pesar de las políticas contra los medios manipulados, los deepfakes todavía circulan ampliamente en plataformas como Twitter. Además, las aplicaciones que se utilizan con frecuencia en la creación de dicho contenido están disponibles en las principales tiendas de dispositivos móviles, como App Store de Apple y Google Play.

La participación de las grandes tecnologías se extiende más allá. Los creadores de deepfake aprovechan GitHub de Microsoft para alojar herramientas utilizadas en la elaboración de contenido pornográfico no consensuado. El pago de estos servicios suele realizarse a través de procesadores convencionales, como PayPal, Mastercard y Visa.

Es innegable que las plataformas tecnológicas tienen una influencia significativa sobre la trayectoria del problema de los deepfake. A medida que la tecnología impregna todas las facetas de la vida moderna, la necesidad de responsabilidad y gobernanza ética nunca ha sido más primordial.