Meta dará a los padres de adolescentes más control después de las críticas sobre los coquetos chatbots de IA

Meta dijo que sus experiencias de IA para adolescentes se guiarán por el sistema de clasificación de películas PG-13, ya que busca evitar que los menores accedan a contenido inapropiado.

Meta dijo este viernes que permitirá a los padres deshabilitar los chats privados de sus hijos adolescentes con personajes de IA, agregando otra medida para hacer que sus plataformas de redes sociales sean seguras para los menores después de las feroces críticas por el comportamiento de sus coquetos chatbots.

A principios de esta semana, la compañía dijo que sus experiencias de IA para adolescentes se guiarán por el sistema de clasificación de películas PG-13, ya que busca evitar que los menores accedan a contenido inapropiado.

Los reguladores estadounidenses han intensificado el escrutinio de las empresas de IA sobre los posibles impactos negativos de los chatbots. En agosto, Reuters informó cómo las reglas de IA de Meta permitían conversaciones provocativas con menores.

Las nuevas herramientas, detalladas por el jefe de Instagram, Adam Mosseri, y el director de inteligencia artificial, Alexandr Wang, debutarán en Instagram a principios del próximo año, en los EU, Reino Unido, Canadá y Australia, según una publicación de blog.

Meta dijo que los padres también podrán bloquear personajes específicos de IA y ver temas amplios que sus adolescentes discuten con chatbots y el asistente de IA de Meta, sin desactivar por completo el acceso a la IA.

Te puede interesar: OpenAI bloquea los deepfakes de Sora de Martin Luther King después de ‘representaciones irrespetuosas’

Meta dijo que sus personajes de IA están diseñados para no participar en discusiones inapropiadas para la edad sobre autolesiones

Su asistente de IA seguirá estando disponible con valores predeterminados apropiados para la edad, incluso si los padres desactivan los chats individuales de los adolescentes con personajes de IA, dijo Meta.

Las funciones de supervisión se basan en protecciones ya aplicadas a las cuentas de adolescentes, dijo la compañía, y agregó que utiliza señales de inteligencia artificial para proteger a los adolescentes sospechosos, incluso si dicen que son adultos.

Un informe de septiembre mostró que muchas funciones de seguridad que Meta ha implementado en Instagram a lo largo de los años no funcionan bien o no existen.

Meta dijo que sus personajes de IA están diseñados para no participar en discusiones inapropiadas para la edad sobre autolesiones, suicidio o trastornos alimentarios con adolescentes.

El mes pasado, OpenAI implementó controles parentales para ChatGPT en la web y dispositivos móviles, luego de una demanda de los padres de un adolescente que murió por suicidio después de que el chatbot de la startup supuestamente lo entrenó sobre métodos de autolesión.

Con información de Reuters.

Nota original: https://forbes.com.mx/meta-dara-a-los-padres-de-adolescentes-mas-control-despues-de-las-criticas-sobre-los-coquetos-chatbots-de-ia/.

Te invitamos a que te suscribas al newsletter de Sabia para acceder a contenido más especializado.