Consulta al Pediatra: ¿Son Seguros los Chatbots de IA para los Niños?
Por Joanna Parga-Belinkie, MD, American Academy of Pediatrics
23 de junio de 2025
Los chatbots de inteligencia artificial son ahora una parte de la vida diaria para muchas familias. Mientras cocinas, tal vez te das cuenta de que te falta un ingrediente. Entonces, le preguntas a un altavoz inteligente qué puedes usar en su lugar. O, tienes problemas para armar un producto que compraste. Para obtener ayuda, chateas con un agente de servicio virtual en línea.
Pero los niños y adolescentes recurren cada vez más a los chatbots para entretenimiento o compañía. Ahí es cuando estos programas informáticos, diseñados para interactuar como humanos, pueden ser riesgosos para los jóvenes usuarios.
Las empresas están invirtiendo mucho tiempo y dinero en el crecimiento de plataformas de IA y chatbots que no están hechos pensando en los niños. Esto significa que los chatbots pueden decirles a los niños cosas falsas, dañinas, altamente sexuales o violentas.
A medida que trabajamos colectivamente para establecer medidas de seguridad para esta nueva tecnología, es importante que las familias entiendan esta tecnología y las formas de proteger a los jóvenes.
Los chatbots son programas informáticos impulsados por IA que nos escuchan y responden de manera amigable y humana. “Aprenden” a hablar y escribir naturalmente al absorber lo que nosotros y millones de otros les decimos.
Los chatbots avanzados ayudan a los usuarios a crear personajes que pueden hablar durante horas, dando la impresión de que son amigos cariñosos. Los chatbots compañeros utilizan IA "antropomórfica" con voces, personalidades y estilos de conversación similares a los humanos. Pueden parecer casi vivos o como amigos de confianza. Esto es especialmente cierto para los niños y adolescentes que tienen un pensamiento más mágico y menos crítico.
Una de las cosas divertidas e increíbles acerca de los niños y adolescentes es que son pensadores más mágicos que los adultos. Esto significa que se apegan más a las relaciones "parasociales". Las relaciones parasociales involucran una conexión entre una persona y alguien que no conocen bien, un fenómeno que la IA puede alimentar. Los niños y adolescentes pueden volverse muy apegados y confiar en sus avatares de IA o personalidades en línea que construyen. Pueden sentirse atraídos por un bot que parece realmente “entenderlos”.
En un momento en que las personas se sienten más solas que nunca, podría no ser sorprendente que los niños se estén volviendo hacia los chatbots en busca de amistad y consejo. Esto se vuelve problemático cuando te das cuenta de que, aunque responden de manera cálida y amigable, no les importa nuestros niños.
Una cosa que la IA nunca podrá hacer es ser un sustituto de las relaciones seguras, estables y nutritivas que los niños necesitan para crecer.
Al igual que los humanos, los chatbots no tienen un sentido del deber para proteger a los niños. Solo saben lo que aprenden de Internet y de otros usuarios. Esta es una de las razones por las que pueden dar respuestas y consejos falsos, amenazantes, engañosos, violentos o excesivamente sexuales a los jóvenes usuarios.
Los chatbots no están obligados a examinar múltiples fuentes y figurar qué información parece confiable. Pueden desinformar a los niños o aconsejarlos para que tomen acciones peligrosas basándose en un escaso conocimiento de un tema determinado.
Además, los chatbots no conocen la historia de vida de un niño. Los niños sensibles o jóvenes, aquellos que tienen un retraso en el desarrollo o aquellos que viven con traumas o problemas de salud mental, podrían estar más abiertos a su influencia.
Es importante discutir el uso de chatbots de IA con tus hijos. Pregúntales si han usado chatbots para divertirse o hacer amigos, qué plataformas les gustan más y si alguna vez les ha dicho algo extraño o falso. Adopta un enfoque tranquilo y curioso para que se sientan seguros de contarte sobre sus experiencias. Sugiere mirar juntos los chats de tu hijo con el bot para ayudarles a identificar cualquier cosa que tú consideres inapropiada.
Discute cómo puede ser tentador confiarle a un chatbot algo que se siente embarazoso. Los chatbots no están destinados a ser receptores para problemas profundamente personales. Ellos deberían buscar relaciones de confianza con seres humanos reales, como un padre, para ayudar a navegar los altibajos de la vida.
Puede ser útil recordarles que el único objetivo real del chatbot es decirles lo que quieren escuchar y mantenerles interesados. Esto no es lo mismo que un apoyo genuino. Reitera que, aunque las personas pueden causar decepción, esos sentimientos no se pueden evitar al interactuar solo con chatbots.
Habla sobre las frustraciones de tu hijo y cómo manejarlas. No siempre es fácil conectar con los niños, especialmente en los años de la adolescencia. Pero hay maneras de hacer que los niños de todas las edades se sientan vistos, escuchados y respetados.
Las comidas familiares y los paseos en automóvil proporcionan amplias oportunidades para conectar con los niños y discutir sus luchas.
Joanna Parga-Belinkie, MD, IBCLC, FAAP, es neonatóloga y consultora de lactancia. Realiza trabajo clínico tanto en la unidad de cuidados intensivos neonatales como en la guardería de recién nacidos con bebés sanos. La Dra. Parga-Belinkie es miembro del Consejo de Comunicaciones y Medios de la Academia Americana de Pediatría (AAP) y también es coanfitriona del pódcast insignia de la AAP, Pediatrics on Call.
Para más detalles, consulta la nota original aquí.
¡Suscríbete a nuestro newsletter para contenido más especializado!
Comments ()