OpenAI está construyendo un nuevo ChatGPT específicamente para adolescentes

OpenAI ha anunciado que está desarrollando una versión dedicada de ChatGPT para adolescentes, un movimiento que dice es necesario para lograr un equilibrio entre seguridad, privacidad y libertad.

La empresa con sede en San Francisco, conocida por impulsar la IA al mainstream, dijo el martes que introduciría lo que describió como “una experiencia de ChatGPT diferente” para usuarios menores de 18 años. Esto ocurre en medio de la presión de reguladores, políticos y padres que han estado pidiendo un escrutinio intensificado sobre los impactos de los chatbots impulsados por IA en la salud mental de los jóvenes.

El nuevo ChatGPT tendrá barreras de protección para proteger a los adolescentes

El CEO de OpenAI, Sam Altman, reconoció que la empresa enfrentaba difíciles compromisos.

«Algunos de nuestros principios entran en conflicto», escribió en una entrada de blog. «Priorizamos la seguridad por encima de la privacidad y la libertad para los adolescentes; esta es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa».

OpenAI ha requerido durante mucho tiempo que los usuarios tengan al menos 13 años, pero ahora tiene la intención de construir un sistema de predicción de edad más estricto para distinguir entre adultos y menores de 18 años. En caso de incertidumbre, cambiará automáticamente al usuario a la versión específica para adolescentes “por exceso de precaución.”

Esa experiencia no solo estará más estrechamente supervisada, sino que también colocará a los padres en un papel más central. A través de la vinculación de cuentas, las madres y los padres podrán gestionar el acceso de sus hijos, limitar funciones como la memoria y el historial de chat, y establecer horas de bloqueo durante las cuales el sistema no será utilizable. Los padres también recibirán notificaciones si la plataforma detecta signos de «angustia aguda».

La empresa reveló límites adicionales, como que ChatGPT para adolescentes no participará en intercambios coquetos, ni responderá a preguntas sobre suicidio o autolesión, incluso dentro de la escritura creativa. Si un niño demuestra pensamientos suicidas, la empresa dice que primero intentará alertar a los padres y, si es necesario, notificar a las autoridades.

«Estas son decisiones difíciles, pero después de hablar con expertos, esto es lo que creemos que es mejor», escribió OpenAI.

OpenAI actúa en medio de un escrutinio regulatorio intensificado

Esta nueva propuesta de desarrollo llega a horas de la audiencia del Senado de EE. UU. para examinar los riesgos que la IA plantea para los adolescentes. El debate bipartidista será liderado por el senador Josh Hawley, republicano por Missouri, junto con los senadores Marsha Blackburn, Katie Britt, Richard Blumenthal y Chris Coons.

La semana pasada, en un proceso para buscar respuestas, la Comisión Federal de Comercio lanzó una investigación sobre OpenAI, Alphabet, Meta, xAI, Snap y Character.AI. La Comisión está solicitando información sobre las medidas que cada una ha tomado para proteger a los menores. Recientemente, como informó Cryptopolitan, una evaluación de riesgos de Common Sense Media también etiquetó a Google Gemini como “alto riesgo” para adolescentes y niños.

Las demandas están aumentando la presión, ya que padres de todo EE. UU. han presentado quejas acusando a las empresas tecnológicas de diseñar productos adictivos que dañan el bienestar mental de los niños. La oleada de acciones legales ya ha obligado a empresas como YouTube a crear alternativas amigables para niños.

Aunque OpenAI está haciendo esfuerzos hacia un ChatGPT más seguro para los menores, no hay garantía de que la iniciativa tenga éxito, ya que los jóvenes expertos en tecnología pueden eludir los controles parentales y buscar versiones sin filtrar de aplicaciones populares.

«Tenemos que separar a los usuarios menores de 18 años de los que no lo son».

OpenAI.

«Si hay dudas, jugaremos con seguridad», explicó la empresa en su declaración pública.

Los observadores de la industria señalan que, a pesar de los esfuerzos bienintencionados, los adolescentes a menudo encuentran «soluciones alternativas» para acceder a las plataformas principales. La dependencia de OpenAI en los padres para monitorear la actividad, dicen, podría convertirse en un punto de fricción.

La nueva iniciativa es parte de un compromiso más amplio de OpenAI para introducir protecciones más fuertes para los jóvenes y aquellos en angustia emocional para finales de este año.

Como dijo Altman, «Esta es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa».