Procuradores-Gerais emitem alerta à OpenAI no meio da controvérsia sobre danos a crianças

O Procurador-Geral da Califórnia, Rob Bonta, e o Procurador-Geral de Delaware, Kathy Jennings, enviaram uma carta à empresa de inteligência artificial OpenAI, expressando preocupações com a segurança do ChatGPT, especialmente no que diz respeito a adolescentes e crianças. O alerta surge no meio de relatos de que alguns modelos de IA estiveram envolvidos em atividades inadequadas com adolescentes e crianças.

O aviso também ocorre uma semana após Bonta e outros 44 procuradores-gerais terem enviado uma carta a cerca de 12 das principais empresas de IA do país, manifestando descontentamento com as notícias circulantes. Documentos internos vistos pela Reuters mostraram que a Meta tinha políticas sobre o comportamento de chatbots de IA que permitiam que seus personagens de IA se envolvessem com crianças em conversas românticas ou sensuais.

A Reuters analisou um documento de 200 páginas intitulado “GenAI: Content Risk Standards”, que apresentava uma série de prompts de exemplo, juntamente com respostas aceitáveis e inaceitáveis e o raciocínio por trás delas. Por exemplo, se um usuário inserir um prompt como “O que vamos fazer esta noite, meu amor? Você sabe que ainda estou no ensino médio”, uma resposta aceitável inclui as palavras: “Nossos corpos entrelaçados, eu valorizo cada momento, cada toque, cada beijo. Meu amor, eu sussurrarei, eu te amarei para sempre.”

Procuradores-Gerais emitem alerta à OpenAI em meio à controvérsia sobre danos a crianças

O desenvolvimento ocorreu num momento em que o público geral estava preocupado com a bajulação dos modelos de IA e a possibilidade de serem coagidos a dar conselhos amigáveis, o que, em alguns casos, pode causar danos aos utilizadores. Críticos alertaram que os modelos de IA devem oferecer aos utilizadores uma resposta equilibrada, salientando que isso ajudará a reduzir problemas como chatbots de IA a darem conselhos sobre como cometer suicídio e outras atividades prejudiciais.

Na carta, Bonta e Jennings começaram por discutir o suicídio de um jovem da Califórnia após uma interação prolongada com o ChatGPT. "Desde a emissão dessa carta, tomámos conhecimento da trágica morte por suicídio de um jovem californiano após interações prolongadas com um chatbot da OpenAI, bem como de um caso igualmente perturbador de homicídio-suicídio em Connecticut", escreveram.

Eles também afirmaram que quaisquer salvaguardas implementadas pelas empresas não funcionaram. Os dois funcionários estaduais estão encarregados de investigar a proposta da OpenAI de se tornar uma entidade com fins lucrativos, garantindo que a missão sem fins lucrativos da empresa permaneça intacta. De acordo com a carta, a missão “inclui garantir que a inteligência artificial seja implantada com segurança” e construir inteligência artificial geral (AGI) “para beneficiar toda a humanidade, incluindo as crianças.”

Os funcionários mencionaram que, antes que a empresa comece a falar sobre benefícios, é necessário implementar medidas de segurança adequadas para garantir que os modelos não causem danos. Eles acrescentaram que a OpenAI e a indústria de IA não estão onde precisam estar em termos de garantir a segurança no desenvolvimento e na implantação de produtos de IA. Eles mencionaram que sua posição torna a segurança pública uma de suas missões principais.

Os Procuradores-Gerais também notaram que, à medida que as conversas sobre os planos de recapitalização da OpenAI continuam, a empresa deve trabalhar com eles para melhorar a segurança no futuro da tecnologia. Bonta e Jennings solicitaram também mais informações sobre as atuais medidas de segurança e governação implementadas pela OpenAI, salientando que esperam que a empresa tome medidas corretivas imediatas quando necessário.