Videos Generados por IA Aumentan Falsedades Sobre el Conflicto Irán-Israel, Aseguran Investigadores
En los últimos días, han aparecido en línea videos generados por inteligencia artificial que aparentan mostrar escenas dramáticas del conflicto Irán-Israel, incluyendo a una mujer reportando desde una prisión en llamas en Teherán y falsos metrajes de edificios de gran altura reducidos a escombros en Tel Aviv. Otros visuales fabricados muestran un avión militar israelí derribado.
Estos clips, que han acumulado millones de vistas en plataformas como X y TikTok, son los últimos en un patrón creciente de videos generados por IA que se difunden durante eventos importantes.
Investigadores del Media Forensics Hub de la Universidad de Clemson le dijeron a CBS News que parte del contenido está siendo amplificado en X por una red coordinada de cuentas que promueven mensajes de oposición iraní, con el objetivo de socavar la confianza en el gobierno iraní.
Videos fabricados
El lunes, Israel llevó a cabo ataques en varios sitios de Irán, incluyendo la notoria prisión de Evin. Minutos después del ataque, comenzó a circular un video en X y otras plataformas de redes sociales que muestra una explosión en la entrada. El video es granuloso, en blanco y negro y parece ser metraje de una cámara de seguridad.
Pero varios anomalies visuales indican que el metraje puede haber sido creado usando inteligencia artificial, según los expertos, incluyendo un signo incorrecto encima de la puerta y discrepancias con la explosión.
Hany Farid, profesor en la Universidad de California, Berkeley, y cofundador de la startup de detección de IA GetReal Labs, le dijo a CBS News que cree que el video puede haber sido generado por una herramienta de IA de imagen a video.
Farid dijo que los avances recientes en tecnología han llevado a videos que se ven más realistas y a formas más fáciles de crearlos y compartirlos rápidamente.
“Hace un año, podías hacer una sola imagen que era bastante fotorrealista”, dijo Farid. “Ahora es un video completo, con explosiones, con lo que parece ser imágenes de un dispositivo móvil en mano”.
El video fue publicado en X dentro de minutos del ataque israelí en la instalación del 23 de junio por una cuenta que "presenta marcas de ser inauténtica", según los investigadores del Media Forensics Hub.
Los funcionarios iraníes e israelíes no han comentado sobre la autenticidad del video.
Darren Linvill, codirector del Media Forensics Hub, le dijo a CBS News que otro video, que mostraba a un reportero generado por IA fuera de la prisión, es el "ejemplo perfecto" de una red coordinada usando IA para circular información falsa a audiencias más amplias.
“No está haciendo nada que uno no pudiera hacer con tecnología anterior, solo lo está haciendo todo más barato, más rápido y a mayor escala”, dijo Linvill. No está claro quién está detrás de los videos, añadió Linvill.
Respuestas de las plataformas de redes sociales
Cuando se le preguntó sobre los videos generados por IA sobre Irán-Israel en su plataforma, un portavoz de TikTok le dijo a CBS News que la plataforma no permite información errónea dañina o contenido generado por IA de fuentes falsas o eventos de crisis, y ha eliminado algunos de estos videos.
Un portavoz de X remitió a CBS News a su función Community Notes, y dijo que algunas de las publicaciones de video generadas por IA han tenido notas comunitarias añadidas para ayudar a combatir la desinformación.
En cuanto a cómo evitar caer en la trampa de videos creados con IA, Farid dijo: “Dejen de obtener noticias de las redes sociales, particularmente en eventos que rompen la noticia como este.”
Para más contenido especializado, suscríbete a nuestro boletín informativo.
Comments ()