Departamento de Comércio dos EUA propõe novas regras de relatórios para provedores de IA e nuvem

O Departamento de Comércio dos EUA propôs novos requisitos de relatórios para desenvolvedores de inteligência artificial avançada e provedores de nuvem para garantir a segurança e a proteção da tecnologia.

O Bureau of Industry and Security (BIS) deixou claro que empresas que criam fronteiras e empresas de gestão de clusters de engenharia que investem na criação de supercomputadores terão a obrigação de submeter certas atividades essenciais de desenvolvimento às autoridades federais. Essa tendência visa diminuir as ameaças de segurança associadas à cibersegurança e ao uso indevido de recursos de inteligência artificial.

De acordo com a nova proposta, os desenvolvedores serão obrigados a divulgar informações detalhadas sobre seus sistemas de inteligência artificial, com foco particular nas medidas de cibersegurança e nos esforços de red-teaming. Red-teaming é uma técnica usada em cibersegurança que avalia os usos prejudiciais de uma IA, como permitir ciberterrorismo ou facilitar a criação de armas de destruição em massa.

Desenvolvedores de IA enfrentam novas obrigações de relatar medidas de cibersegurança e testes de risco

A proposta do Departamento de Comércio também exigiria que os desenvolvedores de IA incluíssem em seus relatórios os resultados das atividades de red-teaming, especialmente aquelas relacionadas a capacidades perigosas como ciberataques. Esse método, originado em simulações da Guerra Fria, identifica riscos simulando ataques ou violações.

As organizações seriam obrigadas a atualizar o quão bem seus sistemas de IA estão resistindo a ataques, mesmo de interesses estrangeiros ou atores não estatais que possam querer abusar do sistema para fins maliciosos críticos.

A IA generativa, que pode criar texto, imagens ou vídeos com base em prompts do usuário, despertou preocupações. Embora a tecnologia ofereça avanços em muitas áreas, também aumentou os temores sobre possíveis ameaças como perda de empregos, interferência em eleições e o risco de dominação da inteligência artificial sobre os humanos.

As novas diretrizes de relatórios buscam garantir o desenvolvimento seguro e confiável dos modelos de IA, reduzindo a chance de esses riscos se materializarem.

Provedores de nuvem são obrigados a atender a novos padrões de relatórios sobre segurança e desenvolvimento de IA

Além dos desenvolvedores de inteligência artificial, as regras propostas também se relacionarão com provedores de serviços de nuvem, como Amazon Web Services (AWS), Google Cloud e Microsoft Azure. Essas plataformas, essenciais para impulsionar o desenvolvimento da inteligência artificial, terão que aderir a padrões rigorosos de cibersegurança de sua infraestrutura. O Departamento de Comércio destacou que essas informações são importantes para evitar o uso indevido da tecnologia dos EUA por outros países.

O impulso regulatório segue a Ordem Executiva do Presidente Joe Biden assinada em outubro de 2023. A ordem exige que os desenvolvedores de tecnologia de inteligência artificial submetam seus resultados de testes de segurança ao Governo dos EUA antes de lançar suas tecnologias ao público. O rascunho emitido pelo Departamento de Comércio está alinhado com esse objetivo mais amplo de proteger a segurança nacional, a saúde pública e a economia do país contra as ameaças posedas pela inteligência artificial.

Esta proposta também segue os esforços anteriores iniciados pela administração Biden para empregar medidas que impedirão a China de acessar a tecnologia dos EUA para o desenvolvimento de inteligência artificial, sugerindo preocupações crescentes com a segurança dentro desta indústria em constante expansão.