Meta desativa personagens de IA para adolescentes antes do novo lançamento

A Meta anunciou que está desativando o acesso de todos os adolescentes aos seus personagens de IA em todo o mundo em todos os aplicativos.

“A partir das próximas semanas, os adolescentes não poderão mais acessar personagens de IA em nossos aplicativos até que a experiência atualizada esteja pronta”, escreveu a Meta em um post no blog.

A empresa afirmou em um post de blog atualizado que esta regra cobre qualquer pessoa que forneceu uma data de nascimento de adolescente e aqueles que dizem ser adultos, mas são suspeitos de serem adolescentes por sua tecnologia de previsão de idade.

A Meta interrompeu o acesso quando os pais exigiram informações mais claras e controle sobre as interações de seus adolescentes com a IA.

A empresa planejava lançar esses recursos este ano, mas decidiu desativar completamente os personagens de IA.

A Meta planeja personagens de IA específicos por idade

A empresa visa criar um personagem de IA especial apenas para adolescentes. Meta afirmou que os novos personagens de IA para adolescentes incluirão controles parentais.

Os novos personagens fornecerão respostas adequadas à idade e se concentrarão em educação, esportes e hobbies.

Em outubro, a Meta introduziu controles parentais para personalizar como os adolescentes interagem com a IA em seus aplicativos. Os novos recursos limitaram os adolescentes a visualizar violência extrema, nudez e uso gráfico de drogas, inspirado na classificação PG-13.

Poucos dias depois, a empresa introduziu ferramentas para gerenciar personagens de IA, para que pais e responsáveis possam rastrear assuntos e restringir o acesso a personagens específicos. A Meta afirmou que os pais poderiam desativar completamente os chats com personagens de IA.

Na quinta-feira, Wired declarou que a Meta tentou restringir a coleta de informações sobre os efeitos das redes sociais na saúde mental dos adolescentes e relatórios relacionados.

A empresa deseja remover qualquer menção a um recente caso de suicídio de adolescente vinculado às redes sociais, e referências às finanças da Meta, atividades dos funcionários e anos de Harvard de Mark Zuckerberg.

A medida da Meta de interromper os personagens de IA para adolescentes ocorre pouco antes de um julgamento no Novo México, onde a Meta enfrenta acusações por não proteger as crianças em seus aplicativos.

Supostamente, a Meta não protegeu menores contra assédio online, tráfico e abuso sexual em seus sites.

A Meta afirmou em movimentos pré-julgamento que o júri deve decidir apenas se a Meta violou a Lei de Práticas Desleais do Novo México concernente à segurança infantil e à saúde mental dos jovens. 

Outros assuntos, como suposta interferência eleitoral, desinformação ou violações de privacidade, não devem ser considerados.

Além do caso do Novo México, a Meta está enfrentando um julgamento na próxima semana por causar vício em redes sociais. 

A autora de 19 anos, conhecida como K.G.M., alegou que o algoritmo das plataformas causou vício e prejudicou sua saúde mental.

O CEO Mark Zuckerberg provavelmente testemunhará assim que o julgamento começar.

Plataformas online restringem o acesso dos adolescentes

Plataformas de redes sociais e empresas de IA mudaram sua experiência para adolescentes devido a processos judiciais alegando que contribuíram para a automutilação. 

Em janeiro 20, coloca a audiência do plano gratuito do ChatGPT em mais de 1 bilhão de usuários ativos semanais, e o modelo de publicidade é o que ajuda a manter a versão gratuita funcionando. introduziu recursos de previsão de idade no ChatGPT para detectar e aprimorar as salvaguardas para usuários mais jovens.

O modelo de previsão de idade do ChatGPT analisa dados comportamentais e da conta, como a idade declarada pelo usuário, a idade da conta, os horários de atividade e as tendências de uso.

Na semana passada, o TikTok introduziu tecnologia de IA na Europa para detectar e excluir contas de usuários com menos de 13 anos. 

O sistema de controle de idade por IA examina detalhes do perfil, clipes e hábitos de postagem para identificar contas de menores. O recurso será lançado nas próximas semanas.

Outras plataformas online, como Instagram, YouTube, TikTok e Roblox, adotaram medidas de restrição por idade.