Los Peligros de la Personalización de IA
Durante meses a principios de 2025, una comunidad en línea unida en Reddit había sido infiltrada sin saberlo por inteligencia artificial. Era un rincón de la plataforma social donde las personas practicaban un debate amistoso, compartiendo sus opiniones e invitando a otros a persuadirlas de lo contrario. Y fue aquí donde investigadores desataron la IA, según un informe de The Atlantic, para ver si podía idear argumentos lo suficientemente sólidos como para cambiar la mentalidad de personas reales. Descubrieron que sí podía.
Publicidad
Publicidad
Se sintió especialmente violatorio, sin embargo, porque a veces se le dio a la IA acceso a los historiales en línea de las personas para adaptar mensajes específicamente a sus identidades únicas. Los científicos del comportamiento llaman a esta táctica de comunicación "persuasión personalizada", y a veces, un enfoque personalizado puede ser atractivo. ¿Quién no querría contenido relevante para sus intereses únicos en lugar de un montón de cosas irrelevantes?
Pero la IA está en vísperas de algo mucho más alarmante que simplemente adaptar un mensaje de manera vaga según características fácilmente identificables, como lo hicieron las cuentas de IA en Reddit. Si puede dominar lo que llamamos "ajuste profundo", puede comenzar a infiltrarse sin ser notada en nuestros mundos en línea, aprendiendo quiénes somos realmente en nuestro núcleo, y usando esa información personal para influir en nuestras creencias y opiniones de maneras que pueden ser no deseadas y dañinas.
Como profesores que estudian la psicología de la persuasión, recientemente ayudamos a recopilar la última investigación de los principales expertos del mundo en un libro sobre persuasión personalizada. Nuestra opinión es que aunque los comunicadores pueden beneficiarse de adaptar mensajes a información básica sobre su audiencia, el ajuste profundo va mucho más allá de dicha información fácilmente accesible. Utiliza la psicología fundamental de una persona, sus creencias, identidades y necesidades fundamentales, para personalizar el mensaje.
Publicidad
Por ejemplo, los mensajes son más persuasivos cuando resuenan con los valores morales más importantes de una persona. Algo puede considerarse ético o no ético por muchas razones, pero las personas difieren en qué razones importan más para sus propias brújulas morales. Las personas con opiniones más liberales, por ejemplo, tienden a preocuparse más por la equidad, por lo que están más convencidas por argumentos que afirman que una política es equitativa. Las personas más conservadoras, por otro lado, tienden a preocuparse más por la lealtad a su comunidad, por lo que están más convencidas cuando un mensaje argumenta que una política sostiene su identidad de grupo.
Aunque pueda parecer una idea nueva, los científicos informáticos han estado trabajando en la persuasión potenciada por la IA durante décadas. Uno de nosotros recientemente produjo un podcast sobre “Project Debater” de IBM, el cual pasó años entrenando a un sistema de IA para debatir, refinándolo repetidamente con expertos humanos en debates. En 2019, durante un evento en vivo, venció a un campeón mundial humano en debates.
Publicidad
Para seguir recibiendo contenido más especializado sobre inteligencia artificial y personalización, suscríbete a nuestro newsletter.
Comments ()