Videos Racistas Generados por Google Veo 3 se Multiplican en TikTok
Ryan Whitwam – 2 de julio de 2025 5:18 PM |33
El lanzamiento del generador de vídeos Veo 3 de Google en mayo representó un salto desconcertante en la calidad del vídeo de IA. Si bien muchos de los vídeos de IA virales que hemos visto son diversión inocente, la salida de píxeles perfectos del modelo también puede ser utilizada para propósitos nefastos. En TikTok, que podría ser prohibido en los próximos meses, los usuarios han notado un exceso de vídeos racistas generados por IA, cortesía de Veo 3 de Google.
Según un informe de MediaMatters, numerosas cuentas de TikTok han comenzado a publicar vídeos generados por IA que utilizan tropos racistas y antisemitas en semanas recientes. La mayor parte del vitriolo de la IA está dirigido a personas negras, retratándolas como "los sospechosos habituales" en crímenes, padres ausentes, y monos con afinidad por la sandía. El contenido también ataca a inmigrantes y judíos. Los vídeos tienen una duración máxima de ocho segundos y llevan la marca de agua "Veo", confirmando que provienen del modelo de IA líder de Google.
El vídeo de compilación a continuación tiene ejemplos seleccionados de TikTok desde el lanzamiento de Veo 3, pero advertimos que contiene contenido racista y antisemita. Algunos de los vídeos son impactantes, lo cual es probablemente el objetivo: nada genera más interacción en las redes sociales que la ira y el drama. MediaMatters informa que las publicaciones originales tienen numerosos comentarios que repiten los estereotipos utilizados en el vídeo.
Políticas claras pero no aplicadas
Los términos de servicio de TikTok prohíben este tipo de contenido. "No permitimos ningún discurso de odio, comportamiento odioso, o promoción de ideologías odiosas. Esto incluye contenido explícito o implícito que ataque a un grupo protegido," indican las pautas de la comunidad. A pesar de esta prohibición general de los caricatures racistas, los vídeos odiosos de Veo 3 parecen estar propagándose sin control.
TikTok señala que utiliza tanto tecnología como moderadores humanos para identificar contenido que infringe las reglas. Sin embargo, el volumen de cargas hace difícil la moderación a tiempo. Mientras que los vídeos racistas acumularon muchas vistas, un portavoz de TikTok le dice a Ars que más de la mitad de las cuentas citadas en el informe de MediaMatters fueron prohibidas por violaciones de políticas antes de que se publicara el informe, y el resto ha sido eliminado.
En lo que respecta a Google, tiene una Política de Uso Prohibido que prohíbe el uso de sus servicios para promover discursos de odio, acoso, bullying, intimidación y abuso. Los vídeos descubiertos por MediaMatters parecen caer en una o más de estas categorías. En un mundo perfecto, Veo 3 se negaría a crear estos vídeos, pero la vaguedad en el aviso y la incapacidad de la IA para comprender las sutilezas de los tropos racistas (es decir, el uso de monos en lugar de humanos en algunos vídeos) facilitan el eludir las reglas.
TikTok, siendo el mayor gigante de vídeo social del mundo, es un lugar natural para que estos vídeos se propaguen. Sin embargo, esto no es exclusivo de TikTok. X (anteriormente Twitter) ha ganado una reputación por su moderación muy limitada, lo que ha llevado a una explosión de contenido de IA odioso. Este problema podría empeorar pronto. Google planea integrar Veo 3 en YouTube Shorts, lo que podría facilitar aún más que contenido similar se propague en YouTube.
TikTok y Google tienen prohibiciones claras sobre este contenido, que deberían haber prevenido que se viera millones de veces en redes sociales. Sin embargo, la aplicación de esas políticas es deficiente. TikTok parece incapaz de mantenerse al día con la avalancha de cargas de vídeo, y las restricciones de Google parecen insuficientes para bloquear la creación de este contenido. Hemos contactado a Google para preguntar sobre las funciones de seguridad de Veo 3, pero aún no hemos recibido respuesta.
Desde que existe la IA generativa, las personas la han utilizado para crear contenido inflamatorio y racista. Google y otros siempre hablan sobre las restricciones para prevenir el uso indebido, pero no pueden capturarlo todo. El realismo de Veo 3 lo hace especialmente atractivo para quienes quieren propagar estereotipos odiosos. Tal vez todas las recomendaciones del mundo no lo detendrán.
Para más contenido especializado, ¡suscríbete a nuestro boletín y mantente al día con lo último!
Comments ()