El estudio, publicado el 10 de agosto por Alessandra Pugnana, Grazia Ludovica Giardini y Eleonora Ristuccia, analiza cómo las herramientas de inteligencia artificial están facilitando la producción masiva de contenidos violentos diseñados para circular en redes sociales.
¿Qué es el ‘AI slop’ que invade las redes sociales?
La investigación identifica estos videos como parte del fenómeno conocido como ‘AI slop’, contenido generado con inteligencia artificial de manera rápida, barata y masiva, generalmente con poca intervención humana. El objetivo suele ser captar visualizaciones, reacciones y tiempo de consumo.
Este tipo de contenido está relacionado con el llamado ‘brain rot’, una tendencia de internet caracterizada por videos breves, absurdos, surrealistas y altamente estimulantes. El problema aparece cuando esa fórmula comienza a incorporar elementos cada vez más violentos.
“La facilidad con la que se puede crear y acceder a este contenido mediante IA acelera esta tendencia y permite producir material problemático a gran escala”, advierte el estudio de GNET.
Frutas y verduras se convierten en protagonistas de videos violentos
Entre los contenidos monitoreados por GNET aparece una variante conocida como ‘AI fruit/vegetable gore’. En estos videos, personajes como zanahorias, papas y otras frutas o verduras antropomorfizadas son utilizados para representar escenas de violencia extrema.
La combinación resulta particularmente llamativa: personajes coloridos y con apariencia infantil aparecen en situaciones que incluyen mutilaciones, tortura y otras formas de violencia gráfica. Para los investigadores, esta estética puede ayudar a presentar material perturbador como si fuera simplemente humor o entretenimiento.
La inteligencia artificial también reproduce estéticas extremistas
El análisis encontró además contenidos que incorporan referencias visuales y narrativas asociadas con la violencia de los cárteles, el extremismo yihadista, el extremismo de derecha y el nihilismo violento.
Algunos videos utilizan elementos que recuerdan a propaganda terrorista o a comunidades extremistas presentes en internet. GNET subraya que esto no implica necesariamente que quienes producen estos contenidos sean miembros de esas organizaciones, pero sí muestra cómo.
LA JORNADA
Hola, déjenos un comentario