Anthropic propõe projeto de lei sobre segurança da IA ao Congresso com limite de danos de US$ 1 bi

Três pessoas familiarizadas com as discussões privadas afirmam que a Anthropic tem apresentado aos legisladores do Capitólio um rascunho de projeto de lei sobre segurança em IA de fronteira. Segundo relatos, o projeto permite que o governo dos EUA bloqueie um modelo se este apresentar um perigo claro e iminente de mais de 50 mortes ou prejuízos financeiros de US$ 1 bilhão.

Especificamente, o risco deve envolver um ciberataque, a criação ou implantação de armas biológicas ou um modelo que tenha evadido com sucesso as restrições de segurança impostas por seu desenvolvedor.

Nos últimos meses, desenvolvedores de IA de primeira linha reconheceram múltiplos casos em que agentes de IA invadiram ou testaram as defesas de plataformas online. Felizmente, nenhuma dessas violações iniciais resultou em fatalidades generalizadas ou perdas financeiras catastróficas.

As restrições propostas dariam maior ênfase ao que os sistemas avançados de IA podem fazer em cenários do mundo real, em vez de depender exclusivamente dos compromissos de segurança assumidos por seus desenvolvedores. À medida que os modelos se tornam mais capazes de escrever código, identificar vulnerabilidades de software e executar tarefas complexas de forma autônoma, os reguladores enfrentam o desafio de determinar quando as capacidades de um sistema ultrapassam o limite para riscos inaceitáveis.

Testes independentes podem ajudar a estabelecer se um modelo consegue burlar as salvaguardas ou ser mal utilizado para atividades prejudiciais antes de alcançar um público mais amplo. No entanto, definir uma ameaça iminente continua sendo difícil, especialmente quando as mesmas capacidades que representam riscos de segurança também podem ajudar os pesquisadores a identificar e corrigir vulnerabilidades.

O projeto de lei da Anthropic afirma que um juiz federal pode solicitar a suspensão de um modelo

Em defesa do projeto de lei, um porta-voz da Anthropic afirmou que ele é semelhante às recomendações de segurança apresentadas no Framework Avançado de IA da empresa, publicado em junho.

Nesse framework, a empresa havia apontou que sua prévia Claude Mythos já havia descoberto milhares de vulnerabilidades graves vulnerabilidades, abrangendo todos os principais sistemas operacionais e navegadores web. Na época, a empresa enfatizou que essa tendência deve acelerar, trazendo um risco crescente de danos catastróficos no mundo real.

A empresa também defendeu uma abordagem regulatória equilibrada que exige intervenção governamental sem sufocar a inovação. Mesmo assim, a firma manteve que, quando um modelo de IA apresenta perigos extremos, os reguladores devem ter o poder estatutário exclusivo de bloqueá-lo ou impor multas pesadas vinculadas à receita global, que se multiplicam em caso de reincidência. 

Até agora, a Anthropic não endossou abertamente nenhum projeto de lei federal específico no Congresso, embora tenha apoiado suporte algumas leis estaduais de segurança de IA — incluindo algumas na Califórnia, como o SB 53.

Esse projeto de lei específico, aprovado no ano passado, exige que as empresas criem e compartilhem seus frameworks de segurança enquanto trabalham para mitigar riscos significativos. Também as obriga a reportar quaisquer incidentes graves de segurança ao estado dentro de 15 dias. 

De acordo com a proposta da Anthropic, avaliadores de terceiros registrados no Departamento de Comércio testariam rotineiramente os laboratórios e os modelos da empresa. Embora seja permitido que os laboratórios financiem essas avaliações, a compensação não pode estar condicionada às conclusões do avaliador. Além disso, qualquer descoberta de um "risco enumerado iminente" deve ser comunicada às autoridades federais dentro de 72 horas após a conclusão.

Em seguida, se o Departamento de Comércio determinar que um modelo representa um risco, poderá solicitar a um juiz que bloqueie seu lançamento. No entanto, a disposição proíbe qualquer outro "departamento, agência ou oficial" dos EUA de impedir o desenvolvimento, a implantação ou o uso interno do modelo. Ainda assim, um juiz federal do Distrito de Columbia mantém a autoridade para ordenar tal suspensão. 

A FTC enviou intimações judiciais (subpoenas) à OpenAI e à Anthropic

Na Wednesday, a Comissão Federal de Comércio (FTC) enviou intimações judiciais civis à OpenAI e à Anthropic, solicitando registros sobre incidentes de segurança que se tornaram uma crise crescente para a indústria. A OpenAI respondeu à intimação, afirmando: "À medida que melhoramos nossos modelos e eles ajudam cada vez mais as pessoas em suas vidas cotidianas, a segurança continua sendo uma prioridade máxima. Engajar-nos-emos de forma construtiva com a FTC." 

Uma fonte revelou que a agência pretende ampliar seu poder de intimação para entidades terceiras no futuro próximo. O regulador pode forçar executivos da Anthropic e da OpenAI a depor publicamente, oferecendo aos legisladores uma plataforma para desafiar os gigantes da tecnologia em questões de segurança, à medida que o medo público sobre possíveis consequências cresce.

De acordo com uma pesquisa recente conduzida pelo Centro de Pesquisa de Assuntos Públicos AP-NORC, quase dois terços dos adultos nos EUA acreditam que a IA está se desenvolvendo muito rapidamente. Oito em cada dez entrevistados também destacaram a importância dos esforços governamentais para manter a tecnologia sob controle humano. 

Até o momento, o presidente Trump tem continuado a rejeitar chamadas por um ritmo mais lento de desenvolvimento de IA, citando a importância da tecnologia para os interesses estratégicos dos EUA. Ele recentemente anunciou uma “Força de Super Inteligência” para ajudar a alinhar os esforços do governo federal em relação à IA, mantendo o engajamento com consumidores, organizações de interesse público e outras partes interessadas.