¿Recuerdas el video de 'Pelosi ebria'? Los deepfakes impulsados por IA hacen que la desinformación sea más tóxica
¿Deberíamos preocuparnos por los videos deepfake? Bueno, claro. Pero tiendo a pensar que un poco de escepticismo es justificado.
Mi ejemplo principal es un video de hace seis años de la entonces presidenta de la Cámara de Representantes, Nancy Pelosi, en el que se nos dice que parece estar ebria. Digo "se nos dice" porque el video simplemente fue ralentizado al 75 %, y la audiencia de derecha para la cual estaba destinado pensó que esta alteración primitiva era prueba de que estaba borracha. ¿Quién necesita deepfakes cuando los espectadores crédulos son engañados por algo así? La gente cree lo que quiere creer.
Pero los deepfakes están mejorando. Esta mañana quiero llamar tu atención sobre una historia crucialmente importante en The New York Times (enlace de regalo) que muestra que los deepfakes impulsados por inteligencia artificial están causando un daño tóxico al entorno político y cultural en todo el mundo.
“La tecnología ha amplificado las divisiones sociales y partidarias y ha fortalecido el sentimiento antigubernamental, especialmente en la extrema derecha, que ha aumentado en elecciones recientes en Alemania, Polonia y Portugal,” escriben los reporteros Steven Lee Myers y Stuart A. Thompson. Algunos ejemplos:
- Rumania tuvo que repetir las elecciones presidenciales del año pasado después de que un tribunal dictaminara que la manipulación de IA de uno de los candidatos podría haber cambiado el resultado.
- Un video de TikTok generado por IA falseó a Donald Trump apoyando a un candidato de extrema derecha en Polonia.
- Otro video falso de las elecciones de EE.UU. del año pasado vinculado a Rusia mostraba falsamente a Kamala Harris diciendo que Trump se negó a “morir con dignidad”.
Al igual que con el video de Pelosi, las falsedades han estado contaminando el entorno mediático durante mucho tiempo. Así que me sorprendió algo que Isabelle Frances-Wright, del Instituto para el Diálogo Estratégico, le dijo al Times: "Antes de la IA, tenías que elegir entre escala o calidad; la calidad provenía de granjas de trolls humanas, y la escala provenía de bots que podían proporcionar eso, pero eran de baja calidad. Ahora, puedes tener ambas, y eso es realmente un territorio aterrador."
En otras palabras, la desinformación se está expandiendo exponencialmente tanto en calidad como en cantidad. Dado esto, es poco probable que veamos más memes generados por rusos de una Hillary Clinton satánica boxeando con Jesús, un ejemplo particularmente inepto de propaganda rusa de 2016. La próxima vez, verás un video realista de un político prometiendo su alma eterna al Señor Oscuro.
Y como todavía tengo algunos enlaces de regalo para compartir antes de que termine el mes, aquí hay un cuestionario del Times con 10 videos, algunos de los cuales son deepfakes de IA y otros reales. ¿Puedes notar la diferencia? Yo no lo hice muy bien.
Entonces, ¿qué podemos hacer para proteger nuestro discurso político? Estoy seguro de que todos podemos coincidir en que ya está en una forma terriblemente mala, dominado por mentiras de Trump y sus aliados que son amplificadas en Fox News y las redes sociales. Como dije, las personas creerán lo que quieran creer. Pero los videos deepfake generados por IA solo harán que las cosas sean aún peores.
Para más contenido especializado, suscríbete a nuestro boletín. ¡Mantente informado!
Comments ()