A OpenAI está desenvolvendo um novo ChatGPT especificamente para adolescentes

A OpenAI anunciou que está desenvolvendo uma versão específica do ChatGPT para adolescentes, uma medida que, segundo a empresa, é necessária para encontrar um equilíbrio entre segurança, privacidade e liberdade.

A empresa sediada em São Francisco, mais conhecida por popularizar a IA, anunciou na terça-feira que lançará o que descreveu como "uma experiência ChatGPT diferente" para usuários menores de 18 anos. Essa decisão surge em meio à pressão de órgãos reguladores, políticos e pais que vêm exigindo maior rigor na análise dos impactos dos chatbots com inteligência artificial na saúde mental dos jovens.

O novo ChatGPT contará com mecanismos de proteção para adolescentes

O CEO da OpenAI, Sam Altman, reconheceu que a empresa enfrentou escolhas difíceis.

“Alguns dos nossos princípios estão em conflito”, escreveu ele em uma postagem no blog. “Priorizamos a segurança em detrimento da privacidade e da liberdade dos adolescentes; esta é uma tecnologia nova e poderosa, e acreditamos que os menores precisam de proteção significativa.”

A OpenAI sempre exigiu que os usuários tivessem pelo menos 13 anos, mas agora pretende construir um sistema de previsão de idade mais rigoroso para distinguir adultos de menores de 18 anos. Em caso de incertezas, o sistema redirecionará automaticamentematicusuário para a versão específica para adolescentes "por precaução".

Essa experiência não só será mais rigorosamente supervisionada, como também colocará os pais em um papel mais central. Através da vinculação de contas, mães e pais poderão gerenciar o acesso dos filhos, limitar recursos como memória e histórico de bate-papo, e definir horários de bloqueio durante os quais o sistema ficará inutilizável. Os pais também serão notificados caso a plataforma detecte sinais de "angústia aguda".

A empresa divulgou outras limitações, como o fato de o ChatGPT para adolescentes não permitir conversas de teor flertador, nem responder a perguntas sobre suicídio ou automutilação, mesmo em atividades de escrita criativa. Caso uma criança demonstre pensamentos suicidas, a empresa afirma que primeiro tentará alertar os pais e, se necessário, notificará as autoridades.

“São decisões difíceis, mas depois de conversar com especialistas, acreditamos que esta é a melhor opção”, escreveu a OpenAI.

A OpenAI está agindo em meio a um escrutínio regulatório intensificado

Essa nova proposta surge a poucas horas do início da audiência no Senado dos EUA para examinar os riscos que a IA representa para os adolescentes. A discussão bipartidária será liderada pelo senador Josh Hawley, republicano do Missouri, juntamente com os senadores Marsha Blackburn, Katie Britt, Richard Blumenthal e Chris Coons.

Na semana passada, em busca de respostas, a Comissão Federal de Comércio (FTC) iniciou uma investigação sobre a OpenAI, Alphabet, Meta, xAI, Snap e Character.AI. A Comissão exige informações sobre as medidas que cada uma delas adotou para proteger menores de idade. Recentemente, conforme noticiado pelo Cryptopolitan, uma avaliação de risco feita pela Common Sense Media também classificou o Google Gemini como de "alto risco" para adolescentes e crianças.

A pressão aumenta com os processos judiciais, já que pais em todos os Estados Unidos têm apresentado queixas acusando empresas de tecnologia de criarem produtos viciantes que prejudicam o bem-estar mental das crianças. A onda de ações judiciais já obrigou empresas como o YouTube a criarem alternativas adequadas para crianças.

Embora a OpenAI esteja se esforçando para tornar o ChatGPT mais seguro para menores, não há garantia de que a iniciativa será bem-sucedida, já que jovens com conhecimento de tecnologia podem burlar os controles parentais e buscar versões não filtradas de aplicativos populares.

“Precisamos separar os usuários menores de 18 anos daqueles que não são.”

OpenAI.

“Em caso de dúvida, optaremos pela segurança”, explicou a empresa em comunicado público.

Observadores do setor notam que, apesar das boas intenções, os adolescentes frequentemente encontram "soluções alternativas" para acessar as plataformas mais populares. A dependência da OpenAI em relação aos pais para monitorar a atividade, dizem eles, pode se tornar um ponto crítico.

A nova iniciativa faz parte de um compromisso mais amplo da OpenAI de introduzir maistronpara jovens e pessoas em sofrimento emocional até o final do ano.

Como disse Altman, "Esta é uma tecnologia nova e poderosa, e acreditamos que os menores precisam de proteção significativa."