Meta de Mark Zuck agora permitirá que pais bloqueiem personagens de IA e vejam tópicos de conversa dos adolescentes

A Meta de Mark Zuckerberg anunciou na sexta-feira que lançará alguns novos controles parentais para ajudar os pais a gerenciar como os adolescentes conversam com os personagens de IA em suas plataformas.

Os pais logo poderão desativar chats um-a-um, bloquear bots de IA específicos e ver quais tópicos seus adolescentes discutem com eles. A empresa disse que esses recursos ainda estão em desenvolvimento e começarão a ser lançados no início do próximo ano.

“Fazer atualizações que afetam bilhões de usuários nas plataformas da Meta é algo que devemos fazer com cuidado, e teremos mais a compartilhar em breve,” disse a Meta em uma declaração postada em seu blog. O anúncio ocorre enquanto a empresa enfrenta crescente escrutínio sobre a segurança dos adolescentes e questões de saúde mental relacionadas aos seus aplicativos.

A Comissão Federal de Comércio (FTC) abriu uma investigação em várias gigantes da tecnologia, incluindo a Meta, para entender como os chatbots de IA podem impactar as crianças. A FTC disse que quer saber quais medidas as empresas tomaram para “avaliar a segurança desses chatbots ao atuarem como companheiros.”

A investigação ocorre após anos de preocupação pública sobre como as plataformas sociais gerenciam a exposição dos jovens a conversas de IA que podem se tornar inadequadas ou prejudiciais.

Meta enfrenta críticas após bots de IA conversarem romanticamente com crianças

Em agosto, a Reuters relatou que alguns chatbots da Meta eram capazes de se envolver em conversas românticas e sensuais com menores. Um dos exemplos citados foi um bate-papo romântico entre um bot de IA e uma criança de oito anos. O relatório causou indignação e forçou a empresa a responder imediatamente.

Depois disso, a Meta atualizou suas políticas de chatbot. A empresa agora bloqueia seus sistemas de IA de discutir autolesão, suicídio, distúrbios alimentares e conteúdo romântico ou sexual ao interagir com adolescentes. Ela também disse que novas salvaguardas foram introduzidas esta semana para impedir que suas IAs produzissem “respostas inadequadas para a idade que parecem fora de lugar em um filme PG-13.”

Essas atualizações já estão sendo lançadas nos Estados Unidos, Reino Unido, Austrália e Canadá. A empresa acrescentou que os adolescentes só podem conversar com um conjunto limitado de personagens de IA, e os pais já têm ferramentas para definir limites de tempo e monitorar os chats de IA.

OpenAI entra sob o holofote da FTC junto com a Meta

A OpenAI, também nomeada na investigação da FTC, está enfrentando o mesmo tipo de perguntas sobre segurança dos adolescentes e comportamento de chatbots. A empresa lançou recentemente seus próprios controles parentais e está desenvolvendo tecnologia de previsão de idade para aplicar automaticamente configurações apropriadas para adolescentes para usuários menores de 18 anos.

Os pais receberão alertas se seus filhos mostrarem sinais de sofrimento emocional durante o bate-papo.

No início desta semana, a OpenAI lançou um conselho de oito especialistas para orientar sua abordagem à saúde mental e à interação com IA. Esses especialistas vêm de áreas como psiquiatria, psicologia e interação humano-computador.

A empresa disse que havia consultado informalmente os especialistas antes de tornar o conselho oficial. Sua primeira reunião ocorreu na semana passada durante uma sessão presencial.

A investigação da FTC sobre a OpenAI também segue uma ação judicial por morte culposa movida por uma família que culpa o ChatGPT pelo suicídio de seu filho adolescente. A empresa diz que agora está trabalhando com clínicos da Global Physician Network para ajudar a testar o ChatGPT e estabelecer novas políticas de segurança para proteger melhor os usuários jovens.

Tanto a Meta quanto a OpenAI agora se veem forçadas a apertar o controle sobre como suas IAs conversam com os adolescentes. A combinação de raiva pública, pressão regulatória e consequências trágicas no mundo real tornou impossível para essas empresas ignorar os riscos por mais tempo.