Foto de OpenAI ha anunciado que está desarrollando una versión dedicada de ChatGPT para adolescentes, una medida que, según afirma, es necesaria para lograr un equilibrio entre seguridad, privacidad y libertad.
La empresa con sede en San Francisco, conocida por popularizar la IA, anunció el martes que presentará lo que describió como "una experiencia ChatGPT diferente" para usuarios menores de 18 años. Esto se produce en medio de la presión de reguladores, políticos y padres que exigen un mayor escrutinio sobre el impacto de los chatbots basados en IA en la salud mental de los jóvenes.
El nuevo ChatGPT contará con barandillas para proteger a los adolescentes
Sam Altman, director ejecutivo de OpenAI, reconoció que la empresa enfrentaba difíciles disyuntivas.
“Algunos de nuestros principios entran en conflicto”, escribió en una entrada de blog. “Priorizamos la seguridad a la privacidad y la libertad de los adolescentes; esta es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa”
OpenAI lleva mucho tiempo exigiendo a los usuarios tener al menos 13 años, pero ahora pretende desarrollar un sistema de predicción de edad más estricto para distinguir entre adultos y menores de 18. En caso de incertidumbre, cambiará automáticamente matic usuario a la versión específica para adolescentes "por precaución".
Esta experiencia no solo estará supervisada con mayor rigor, sino que también otorgará a los padres un papel más central. Mediante la vinculación de cuentas, madres y padres podrán gestionar el acceso de sus hijos, limitar funciones como la memoria y el historial de chat, y establecer horarios de inactividad durante los cuales el sistema no podrá utilizarse. Los padres también recibirán una notificación si la plataforma detecta signos de angustia aguda.
La compañía reveló límites adicionales, como que ChatGPT para adolescentes no participará en intercambios de coqueteo ni responderá preguntas sobre suicidio o autolesiones, ni siquiera en escritura creativa. Si un menor muestra pensamientos suicidas, la empresa afirma que primero intentará alertar a los padres y, de ser necesario, notificará a las autoridades.
“Son decisiones difíciles, pero después de hablar con expertos, esto es lo que creemos que es mejor”, escribió OpenAI.
OpenAI está actuando en medio de un escrutinio regulatorio intensificado
Esta nueva propuesta surge justo cuando la audiencia del Senado de EE. UU. para examinar los riesgos que la IA representa para los adolescentes está a pocas horas de comenzar. El debate bipartidista será dirigido por el senador Josh Hawley, republicano de Missouri, junto con los senadores Marsha Blackburn, Katie Britt, Richard Blumenthal y Chris Coons.
La semana pasada, en un proceso para buscar respuestas, la Comisión Federal de Comercio (FTC) inició una investigación sobre OpenAI, Alphabet, Meta, xAI, Snap y Character.AI. La Comisión exige información sobre las medidas que cada una ha adoptado para proteger a los menores. Recientemente, según informó Cryptopolitan , una evaluación de riesgos de Common Sense Media también calificó a Google Gemini como de "alto riesgo" para adolescentes y niños.
Las demandas aumentan la presión, ya que padres de todo Estados Unidos han presentado denuncias acusando a las empresas tecnológicas de diseñar productos adictivos que perjudican el bienestar mental de los niños. La avalancha de acciones legales ya ha obligado a empresas como YouTube a crear alternativas adaptadas a los niños.
Aunque OpenAI está realizando esfuerzos para lograr un ChatGPT más seguro para menores, no hay garantía de que la iniciativa tenga éxito, ya que los jóvenes expertos en tecnología pueden eludir los controles parentales y buscar versiones sin filtros de aplicaciones populares.
“Tenemos que separar a los usuarios menores de 18 años de los que no los tienen”
OpenAI.
“Si hay dudas, optaremos por lo seguro”, explicó la compañía en su comunicado público.
Los observadores del sector señalan que, a pesar de los esfuerzos bienintencionados, los adolescentes suelen encontrar soluciones alternativas para acceder a las plataformas convencionales. La dependencia de OpenAI de los padres para supervisar la actividad, afirman, podría convertirse en un punto de fricción.
La nueva iniciativa es parte de un compromiso más amplio de OpenAI para introducir más tron para los jóvenes y aquellos que padecen angustia emocional para fin de año.
Como lo expresó Altman: “Esta es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa”
