Un informe reciente de la empresa Graphika destaca que los deepfakes sexuales de Taylor Swift, que generaron impacto global, surgieron como parte de una "competencia" en el polémico foro 4chan.
Esta actividad desafiante tiene como objetivo evadir las protecciones de la inteligencia artificial en la creación de material porno falso, según recoge Bloomberg.
"Competencia" en 4chan: Evadiendo las barreras
En 4chan, participantes se embarcan en un desafío para encontrar nuevas palabras o frases que burlen los bloqueos de generadores de imágenes con inteligencia artificial.
Esto permite la creación de deepfakes sexuales, afectando a figuras públicas como Taylor Swift, Emma Watson, Ariana Grande y Billie Eilish.
Aunque Taylor Swift fue una de las figuras más afectadas, no fue la única. El impacto de las imágenes falsas se extendió a otras celebridades.
Estas imágenes se viralizaron en Twitter, donde la plataforma fue criticada por la demora en eliminar el material, facilitando su reproducción en miles de cuentas incluso después de la eliminación.
Respuestas en plataformas: Medidas tomadas por Twitter y Microsoft
La relevancia del caso llevó a Twitter a censurar búsquedas relacionadas con la cantante, una medida que estuvo vigente por un breve período. Microsoft, por su parte, implementó restricciones en su herramienta Designer, utilizada para crear las fotos falsas de Taylor Swift.
Rastreando el origen: Graphika y la "naturaleza jugable"
A pesar de que las imágenes se viralizaron en Twitter, expertos rastrearon su origen hasta 4chan. La "competencia" en el foro revela una preocupante "naturaleza jugable" de la actividad maliciosa.
Los analistas de Graphika destacan que estos creadores buscan eludir las restricciones de la IA generativa como un desafío.
Desafíos en la lucha contra deepfakes: IA y amenazas constantes
El desafío en 4chan demuestra que las restricciones actuales en los generadores de imágenes con inteligencia artificial no son infalibles.
Expertos advierten sobre la "naturaleza jugable" de esta actividad maliciosa, que busca superar obstáculos y evadir bloqueos constantes.
El uso de inteligencia artificial para generar deepfakes sexuales ha crecido alarmantemente, afectando a figuras conocidas.
La creación de contenido falso a partir de fotos de redes sociales se ha convertido en una estrategia de extorsión.
La atención en el caso de Taylor Swift destaca la necesidad de acciones proactivas por parte de las grandes tecnológicas.