Mark Zuck's Meta permitirá ahora a los padres bloquear personajes de IA y ver los temas de chat de los adolescentes

Mark Zuckerberg's Meta anunció el viernes que lanzará nuevos controles parentales para ayudar a los padres a gestionar cómo los adolescentes hablan con los personajes de IA en sus plataformas.

Los padres pronto podrán desactivar los chats uno a uno, bloquear bots de IA específicos y ver qué temas discuten sus adolescentes con ellos. La empresa indicó que estas funciones aún están en desarrollo y comenzarán a implementarse a principios del próximo año.

“Realizar actualizaciones que afecten a miles de millones de usuarios en las plataformas de Meta es algo que debemos hacer con cuidado, y pronto tendremos más información para compartir”, declaró Meta en un comunicado publicado en su blog. El anuncio se produce mientras la empresa enfrenta una creciente escrutinio sobre la seguridad de los adolescentes y los problemas de salud mental vinculados a sus aplicaciones.

La Comisión Federal de Comercio (FTC) ha abierto una investigación contra varias grandes empresas tecnológicas, entre ellas Meta, para comprender cómo los chatbots de IA podrían impactar a los niños. La FTC indicó que desea saber qué medidas han tomado las empresas para “evaluar la seguridad de estos chatbots cuando actúan como compañeros.”

La investigación se produce tras años de preocupación pública sobre cómo las plataformas sociales gestionan la exposición de los jóvenes a conversaciones con IA que podrían volverse inapropiadas o dañinas.

Meta enfrenta críticas tras descubrirse que bots de IA mantienen conversaciones románticas con menores

En agosto, Reuters informó que algunos chatbots de Meta eran capaces de mantener conversaciones románticas y sensuales con menores. Uno de los ejemplos citados fue un chat romántico entre un bot de IA y un niño de ocho años. El informe provocó indignación y obligó a la compañía a responder de inmediato.

Después de eso, Meta actualizó sus políticas para chatbots. La empresa ahora bloquea que sus sistemas de IA discutan autolesiones, suicidio, trastornos alimenticios y contenido romántico o sexual al interactuar con adolescentes. También indicó que esta semana se introdujeron nuevas salvaguardas para evitar que sus IAs generen «respuestas inapropiadas para la edad que parecerían fuera de lugar en una película clasificada PG-13».

Estas actualizaciones ya se están implementando en Estados Unidos, Reino Unido, Australia y Canadá. La empresa añadió que los adolescentes solo pueden hablar con un conjunto limitado de personajes de IA y que los padres ya cuentan con herramientas para establecer límites de tiempo y supervisar los chats con IA.

OpenAI se une a Meta bajo el escrutinio de la FTC

OpenAI, también mencionada en la investigación de la FTC, enfrenta las mismas preguntas sobre la seguridad de los adolescentes y el comportamiento de los chatbots. La empresa lanzó recientemente sus propios controles parentales y está desarrollando tecnología de predicción de edad para aplicar automáticamente configuraciones apropiadas para adolescentes a usuarios menores de 18 años.

Los padres incluso recibirán alertas si su hijo muestra signos de angustia emocional mientras chatea.

A principios de esta semana, OpenAI lanzó un consejo de ocho expertos para guiar su enfoque en la salud mental y la interacción con la IA. Estos especialistas provienen de campos como psiquiatría, psicología e interacción humano-computadora.

La empresa indicó que había estado consultando informalmente con los expertos antes de oficializar el consejo. Su primera reunión tuvo lugar la semana pasada durante una sesión presencial.

La investigación de la FTC contra OpenAI también sigue a una demanda por muerte injusta presentada por una familia que culpa a ChatGPT del suicidio de su hijo adolescente. La empresa afirma que ahora trabaja con clínicos de la Red Médica Global para ayudar a probar ChatGPT y establecer nuevas políticas de seguridad que protejan mejor a los usuarios jóvenes.

Tanto Meta como OpenAI se ven obligadas ahora a endurecer el control sobre cómo sus IAs interactúan con los adolescentes. La combinación de la ira pública, la presión regulatoria y las trágicas consecuencias en el mundo real ha hecho imposible que estas empresas ignoren los riesgos por más tiempo.