English
Español
TikTok vuelve a situarse en el centro del debate sobre desinformación y contenido generado por IA, tras un informe que revela que cientos de cuentas han logrado miles de millones de visualizaciones con material artificialmente creado. Entre los vídeos destacan publicaciones sexualizadas, narrativas antiinmigración y fragmentos que simulan ser noticias reales.
Según AI Forensics, organización sin ánimo de lucro con sede en París, se identificaron 354 cuentas especializadas en publicar contenido generado con IA, que en conjunto difundieron 43.000 publicaciones y acumularon 4.500 millones de visualizaciones en un solo mes. Los investigadores señalan que muchas de estas cuentas intentan manipular el algoritmo de TikTok mediante la publicación masiva y repetitiva de vídeos para viralizarse.
“Detectamos cuentas que publicaban hasta 70 vídeos al día o siempre a la misma hora, un comportamiento propio de la automatización”, explicó AI Forensics. Gran parte de estos perfiles fueron creados a comienzos de 2025, lo que sugiere una expansión coordinada del fenómeno.
El hallazgo coincide con la explosión del contenido generado por IA en TikTok. El mes pasado, la plataforma admitió la existencia de al menos 1.300 millones de publicaciones con IA. Aunque se suben más de 100 millones de vídeos diarios, TikTok asegura que el contenido etiquetado como generado artificialmente representa solo una pequeña fracción del total.
Contenido sexualizado y narrativas antiinmigración
El informe destaca que la mitad de las cuentas más activas se centraban en mostrar cuerpos femeninos sexualizados, con mujeres generadas por IA “estereotípicamente atractivas, vestidas de forma sugerente o con escotes prominentes”.
Más alarmante aún, algunos vídeos representaban cuerpos aparentemente menores de edad o imitaban presentadores de noticias difundiendo mensajes antiinmigración, usando incluso logos de medios reales como Sky News o ABC, lo que aumenta la capacidad de engaño del contenido.
AI Forensics advierte que la mitad del contenido no estaba etiquetado como IA, y solo el 2% llevaba la etiqueta oficial de TikTok, lo que incrementa el riesgo de desinformación y permite que los vídeos evadan moderación durante semanas o meses. Varias de las cuentas señaladas han sido eliminadas, aunque no está claro si por acción directa de TikTok.
TikTok defiende su moderación
TikTok calificó las acusaciones como “no fundamentadas” y señaló que la situación afecta a todas las redes sociales, no solo a su plataforma.
“En TikTok eliminamos contenido dañino generado por IA, bloqueamos millones de cuentas automatizadas, invertimos en tecnologías avanzadas de etiquetado y ofrecemos herramientas educativas para que los usuarios controlen su experiencia”, afirmó un portavoz.
La compañía recordó que sus normas prohíben suplantar fuentes de autoridad, representar a menores de edad o imitar a adultos que no sean figuras públicas. Además, el fenómeno tampoco es exclusivo de TikTok: uno de cada diez de los canales de YouTube con mayor crecimiento publica contenido únicamente generado con IA.
“Slop”: contenido absurdo y viral
El informe también documenta la proliferación del llamado “slop”, contenido generado por IA que es absurdo, incoherente o surrealista, diseñado para saturar feeds y captar atención, como animales compitiendo en deportes olímpicos o bebés parlantes.
Aunque parte del contenido puede resultar “entretenido” o “tierno”, su distribución masiva contribuye a un ecosistema cada vez más dominado por material sintético.
IA vs humanos: fronteras difusas
Los investigadores concluyen que TikTok se encuentra en un punto de inflexión: las líneas entre contenido humano y generado artificialmente se están borrando.
“El contenido de IA está plenamente integrado en las plataformas y en el ecosistema de viralidad. La frontera entre lo humano y lo sintético se está borrando”, afirma AI Forensics.
El estudio también detectó tácticas de monetización, desde promocionar suplementos bajo identidades falsas hasta vender herramientas para generar contenido viral con IA.
Propuestas para mejorar la transparencia
AI Forensics valora la opción de TikTok de reducir voluntariamente la cantidad de contenido generado por IA, pero considera que esto no basta sin un etiquetado más visible y obligatorio.
Recomiendan que TikTok explore:
- Una sección exclusiva para contenido generado por IA.
- Un sistema de etiquetado estandarizado y visible para todo material sintético.
“Las plataformas deben ir más allá de etiquetas opcionales y separar claramente el contenido generado por IA del creado por humanos”, concluyen los expertos.
Fuentes Noticias:
https://www.theguardian.com/technology
https://www.slobodenpecat.mk/en
Crédito Imágenes:
A screengrab from an AI-generated video on TikTok. Illustration: TikTok
TikTok flooded with artificially generated videos featuring migrants – Source X
