O Meta, de Mark Zuckerberg, agora permitirá que os pais bloqueiem personagens de IA e visualizem as conversas dos adolescentes

A Meta, empresa de Mark Zuckerberg, anunciou na sexta-feira que lançará novos controles parentais para ajudar os pais a gerenciar a forma como os adolescentes interagem com os personagens de IA em suas plataformas.

Em breve, os pais poderão desativar conversas individuais, bloquear bots de IA específicos e ver quais assuntos seus filhos adolescentes discutem com eles. A empresa afirmou que esses recursos ainda estão em desenvolvimento e começarão a ser implementados no início do próximo ano.

“Fazer atualizações que afetam bilhões de usuários em todas as plataformas da Meta é algo que precisamos fazer com cuidado, e em breve teremos mais novidades para compartilhar”, disse a Meta em um comunicado publicado em seu blog. O anúncio ocorre em um momento em que a empresa enfrenta crescente escrutínio sobre questões de segurança e saúde mental de adolescentes relacionadas aos seus aplicativos.

A Comissão Federal de Comércio (FTC, na sigla em inglês) abriu uma investigação sobre várias gigantes da tecnologia, incluindo a Meta, para entender como os chatbots de IA podem impactar as crianças. A FTC afirmou que quer saber quais medidas as empresas tomaram para "avaliar a segurança desses chatbots quando atuam como companheiros"

A investigação surge após anos de preocupação pública sobre como as plataformas de redes sociais gerenciam a exposição de jovens a conversas sobre inteligência artificial que podem se tornar inapropriadas ou prejudiciais.

A Meta enfrenta reação negativa após bots de IA conversarem romanticamente com crianças

Em agosto, a Reuters noticiou que alguns chatbots da Meta eram capazes de manter conversas românticas e sensuais com menores. Um dos exemplos citados foi um bate-papo romântico entre um bot de IA e uma criança de oito anos. A reportagem causou indignação e obrigou a empresa a se pronunciar imediatamente.

Depois disso, a Meta atualizou suas políticas de chatbot. A empresa agora impede que seus sistemas de IA discutam automutilação, suicídio, distúrbios alimentares e conteúdo romântico ou sexual ao interagir com adolescentes. Ela também afirmou que novas medidas de segurança foram introduzidas esta semana para impedir que suas IAs produzam "respostas inadequadas para a idade que pareceriam fora de lugar em um filme com classificação indicativa de 13 anos"

Essas atualizações já estão sendo implementadas nos Estados Unidos, Reino Unido, Austrália e Canadá. A empresa acrescentou que os adolescentes só podem conversar com um conjunto limitado de personagens de IA e que os pais já têm ferramentas para definir limites de tempo e monitorar os chats com IA.

OpenAI se junta à Meta sob escrutínio da FTC

A OpenAI, também citada na investigação da FTC, enfrenta o mesmo tipo de questionamento sobre a segurança de adolescentes e o comportamento de chatbots. A empresa lançou recentemente seu próprio sistema de controle parental e está desenvolvendo uma tecnologia de previsão de idade para aplicarmaticconfigurações apropriadas para adolescentes menores de 18 anos.

Os pais receberão alertas caso seus filhos apresentem sinais de sofrimento emocional durante o bate-papo.

No início desta semana, a OpenAI lançou um conselho de oito especialistas para orientar sua abordagem em relação à saúde mental e à interação com IA. Esses especialistas vêm de áreas como psiquiatria, psicologia e interação humano-computador.

A empresa afirmou que vinha consultando informalmente os especialistas antes de oficializar a formação do conselho. A primeira reunião ocorreu na semana passada, em sessão presencial.

A investigação da FTC sobre a OpenAI também surge na sequência de um processo por homicídio culposo movido por uma família que culpa o ChatGPT pelo suicídio de seu filho adolescente. A empresa afirma que agora está trabalhando com médicos da Global Physician Network para ajudar a testar o ChatGPT e estabelecer novas políticas de segurança para melhor proteger os jovens usuários.

Tanto a Meta quanto a OpenAI agora se veem obrigadas a reforçar o controle sobre como suas IAs se comunicam com adolescentes. A combinação da indignação pública, da pressão regulatória e das trágicas consequências no mundo real tornou impossível para essas empresas ignorarem os riscos por mais tempo.