OpenAI está construindo um novo ChatGPT especificamente para adolescentes

A OpenAI anunciou que está desenvolvendo uma versão dedicada do ChatGPT para adolescentes, um movimento que ela diz ser necessário para equilibrar segurança, privacidade e liberdade.

A empresa sediada em São Francisco, conhecida por impulsionar a IA para o mainstream, disse na terça-feira que introduziria o que descreveu como “uma experiência diferente do ChatGPT” para usuários com menos de 18 anos. Isso ocorre sob pressão de reguladores, políticos e pais que têm exigido um escrutínio intensificado sobre os impactos dos chatbots com IA na saúde mental dos jovens.

O novo ChatGPT terá barreiras de proteção para proteger os adolescentes

O CEO da OpenAI, Sam Altman, reconheceu que a empresa enfrentava trade-offs difíceis.

“Alguns de nossos princípios estão em conflito,” ele escreveu em um post de blog. “Priorizamos a segurança em vez da privacidade e liberdade para adolescentes; esta é uma tecnologia nova e poderosa, e acreditamos que os menores precisam de proteção significativa.”

OpenAI há muito exigia que os usuários tivessem pelo menos 13 anos, mas agora pretende construir um sistema de previsão de idade mais rigoroso para distinguir adultos de menores de 18 anos. Em caso de incertezas, ela mudará automaticamente o usuário para a versão específica para adolescentes “por excesso de cautela.”

Essa experiência não apenas será mais rigorosamente supervisionada, mas também colocará os pais em um papel mais central. Por meio do vinculação de contas, mães e pais poderão gerenciar o acesso de seus filhos, limitar recursos como memória e histórico de chat, e definir horas de bloqueio durante as quais o sistema é inutilizável. Os pais também serão notificados se a plataforma detectar sinais de “sofrimento agudo”.

A empresa divulgou limites adicionais, como o ChatGPT para adolescentes não se envolver em trocas flirtícias, nem responder a perguntas sobre suicídio ou autolesão, mesmo dentro da escrita criativa. Se uma criança demonstrar pensamentos suicidas, a empresa diz que primeiro tentará alertar os pais e, se necessário, notificará as autoridades.

“Estas são decisões difíceis, mas depois de falar com especialistas, isso é o que achamos melhor,” escreveu a OpenAI.

OpenAI está agindo sob escrutínio regulatório intensificado

Este novo desenvolvimento proposto vem enquanto a audiência do Senado dos EUA para examinar os riscos que a IA representa para os adolescentes está a poucas horas de distância. A discussão bipartidária será liderada pelo Senador Josh Hawley, republicano de Missouri, ao lado dos senadores Marsha Blackburn, Katie Britt, Richard Blumenthal e Chris Coons.

Na semana passada, em um processo para buscar respostas, a Federal Trade Commission lançou uma investigação sobre OpenAI, Alphabet, Meta, xAI, Snap e Character.AI. A Comissão está exigindo informações sobre as medidas que cada uma tomou para proteger os menores. Recentemente, conforme relatado pela Cryptopolitan, uma avaliação de risco da Common Sense Media também rotulou o Google Gemini como “alto risco” para adolescentes e crianças.

As ações judiciais estão aumentando a pressão, pois pais em todo os EUA apresentaram queixas acusando empresas de tecnologia de projetar produtos viciantes que prejudicam o bem-estar mental das crianças. A onda de ações legais já forçou empresas como o YouTube a criar alternativas amigáveis para crianças.

Embora a OpenAI esteja a fazer esforços para tornar o ChatGPT mais seguro para menores, não há garantia de que a iniciativa tenha sucesso, pois jovens com conhecimentos tecnológicos podem contornar os controlos parentais e procurar versões sem filtros de aplicações populares.

“Temos de separar os utilizadores com menos de 18 anos daqueles que não têm.”

OpenAI.

“Se houver dúvidas, jogaremos com segurança”, explicou a empresa na sua declaração pública.

Observadores do setor notam que, apesar dos esforços bem-intencionados, os adolescentes frequentemente encontram “soluções alternativas” para aceder a plataformas principais. A dependência da OpenAI dos pais para monitorizar a atividade, dizem eles, pode tornar-se um ponto de atrito.

A nova iniciativa faz parte de um compromisso mais amplo da OpenAI de introduzir proteções mais fortes para jovens e aqueles em sofrimento emocional até o final do ano.

Como disse Altman, “Esta é uma tecnologia nova e poderosa, e acreditamos que os menores precisam de proteção significativa.”