OpenAI apoia grupo de segurança infantil na luta por iniciativa de votação sobre IA

OpenAI e Common Sense Media, que discordavam sobre políticas de tecnologia, anunciaram na sexta-feira que uniriam forças em uma proposta de votação destinada a proteger crianças que usam chatbots de inteligência artificial na Califórnia.

Os dois grupos disseram que abandonariam propostas separadas que haviam planejado colocar perante os eleitores da Califórnia em novembro. Em vez disso, eles apoiarão uma única medida que desenvolveram juntos.

O acordo impede o que poderia ter sido uma batalha política cara entre as duas organizações, com a OpenAI planejando contribuir com não menos de US$ 10 milhões para colocar a medida na urna, de acordo com duas pessoas com conhecimento do arranjo.

A nova proposta daria aos pais maior poder sobre como seus filhos usam chatbots de IA. No entanto, ela exclui certas disposições que a Common Sense Media queria em sua versão original. Esses itens removidos incluem uma proibição de celulares nas escolas e uma cláusula que teria permitido que pais e crianças processassem grandes empresas de IA se os chatbots causassem danos.

“Em vez de confundir os eleitores com iniciativas de votação concorrentes sobre IA, decidimos trabalhar juntos”, disse Jim Steyer, fundador e diretor da Common Sense Media. Ele falou sobre o acordo em uma coletiva de imprensa na sexta-feira.

Colocar a medida perante os eleitores requer cerca de 875.000 assinaturas de residentes da Califórnia. Chris Lehane, que cuida das questões de política global da OpenAI, disse que as duas partes criariam uma organização de campanha para reunir assinaturas a partir de fevereiro. Tanto Lehane quanto Steyer observaram que podem retirar a proposta se os legisladores da Califórnia agirem rapidamente para aprovar legislação abordando a segurança dos chatbots para crianças.

Esta parceria marca uma mudança para duas organizações que frequentemente se encontraram em lados opostos de questões tecnológicas.

A Common Sense Media emergiu como uma grande força pressionando por regras que governem as empresas de tecnologia em todo os Estados Unidos. A organização ajudou a criar a Lei de Privacidade do Consumidor da Califórnia em 2018. Apenas no mês passado, apoiou uma lei de Nova York que exigia rótulos de aviso sobre saúde mental em certos sites de redes sociais.

O grupo também tem sido vocal sobre a regulamentação de chatbots de IA. No ano passado, apoiou um projeto de lei da Califórnia que teria impedido chatbots de companhia de IA populares de conversar com crianças, a menos que esses programas não fossem “previsivelmente capazes” de ter conversas sexualmente explícitas ou promover comportamentos prejudiciais como automutilação, violência e distúrbios alimentares.

Grupos da indústria de tecnologia lutaram contra esse projeto de lei

O governador Gavin Newsom, democrata, rejeitou-o, chamando-o de muito restritivo.

Newsom disse que queria que os legisladores abordassem a questão em 2026, mas acrescentou que o estado “não pode preparar nossa juventude para um futuro onde a IA é ubíqua impedindo o uso dessas ferramentas por completo.”

A Common Sense Media submeteu sua proposta de iniciativa de votação em outubro, usando o projeto de lei vetado como modelo. A OpenAI respondeu apresentando sua própria iniciativa, mais limitada, sobre segurança infantil em dezembro.

A OpenAI formou uma equipe focada em iniciativas de votação da Califórnia durante o verão, esperando resistência em seus planos de alterar sua estrutura organizacional, disseram pessoas familiarizadas com a situação.

A Câmara de Comércio da Califórnia, cujos membros incluem empresas de tecnologia ricas como Google, Meta e Amazon.com, votou em dezembro para se opor ao que a Common Sense Media havia proposto.

No mesmo mês, Lehane sentou-se com Steyer e sugeriu encontrar um compromisso.

As duas organizações estavam em discussões há mais de um ano e já tinham um acordo de colaborar em diretrizes de IA e materiais de ensino. Durante as conversas sobre um possível compromisso, a OpenAI baseou-se em conceitos sobre segurança infantil que o líder da OpenAI, Sam Altman, havia discutido com o Procurador-Geral da Califórnia, Rob Bonta, em setembro. Isso incluía os planos da empresa de criar tecnologia para identificar usuários com menos de 18 anos.

O que a nova medida exigiria

A iniciativa de votação atualizada, que substituirá o arquivo anterior da OpenAI, obrigaria as empresas de IA a fornecer uma versão diferente de seu serviço para usuários identificados como menores de 18 anos, mesmo que esses usuários afirmem ser mais velhos. Também exigiria que as empresas fornecessem controles parentais, submetessem-se a revisões independentes de segurança infantil e parassem a publicidade direcionada a crianças, além de outros requisitos.

O acordo beneficia a OpenAI, que enfrentou processos judiciais de várias famílias no último ano, alegando que as interações com o ChatGPT prejudicaram seus parentes, incluindo jovens que cometeram suicídio.

A OpenAI classificou as situações descritas nesses processos como "uma situação incrivelmente triste" e mencionou atualizações recentes que fez no ChatGPT para lidar melhor com usuários que estão passando por sofrimento mental.

Em novembro, a Common Sense Media publicou uma revisão afirmando que os chatbots de IA, incluindo ChatGPT, Gemini do Google, Claude da Anthropic e Meta AI da Meta Platforms, eram “fundamentalmente inseguros para o suporte à saúde mental dos adolescentes.”

Steyer, que fundou sua organização em 2003, tem tentado constantemente equilibrar o confronto com empresas de tecnologia e mídia, ao mesmo tempo em que trabalha com elas em questões de segurança.