O Departamento de Comércio dos EUA propõe novas regras de reporte para provedores de IA e nuvem

O Departamento de Comércio dos EUA propôs novos requisitos de relatórios para desenvolvedores de inteligência artificial avançada e provedores de nuvem, a fim de garantir a segurança da tecnologia.

O Departamento de Indústria e Segurança (BIS) deixou claro que empresas inovadoras e grupos de gestão de clusters de engenharia que investem na criação de supercomputadores terão a obrigação de submeter certas atividades essenciais de desenvolvimento às autoridades federais. Essa tendência visa diminuir as ameaças à segurança cibernética e o uso indevido de recursos de inteligência artificial.

De acordo com a nova proposta, os desenvolvedores serão obrigados a divulgar informações detalhadas sobre seus sistemas de inteligência artificial, com foco especial em medidas de segurança cibernética e testes de intrusão (red-teaming). Red-teaming é uma técnica utilizada em segurança cibernética que avalia os usos nocivos da IA, como o apoio ao ciberterrorismo ou a facilitação da criação de armas de destruição em massa.

Os desenvolvedores de IA enfrentam novas exigências para relatar medidas de segurança cibernética e testes de risco

A proposta do Departamento de Comércio também exigiria que os desenvolvedores de IA incluíssem em seus relatórios os resultados de atividades de "red teaming", especialmente aquelas relacionadas a capacidades perigosas, como ataques cibernéticos. Esse método, originário das simulações da Guerra Fria,dentriscos simulando ataques ou violações.

As organizações seriam obrigadas a atualizar as informações sobre a capacidade de seus sistemas de IA resistirem a ataques, inclusive de interesses estrangeiros ou atores não estatais que possam querer usar o sistema para fins maliciosos críticos.

A inteligência artificial generativa, capaz de criar textos, imagens ou vídeos com base em comandos do usuário, tem gerado preocupações. Embora a tecnologia ofereça avanços em muitas áreas, também aumentou os temores sobre possíveis ameaças, como perda de empregos, interferência eleitoral e o risco de domínio da inteligência artificial sobre os humanos.

As novas diretrizes de reporte visam garantir o desenvolvimento seguro e confiável de modelos de IA, reduzindo a probabilidade de que esses riscos se materializem.

Os provedores de nuvem são obrigados a cumprir novos padrões de relatórios sobre segurança e desenvolvimento de IA

Além dos desenvolvedores de inteligência artificial, as regras propostas também se aplicam a provedores de serviços em nuvem, como Amazon Web Services (AWS), Google Cloud e Microsoft Azure. Essas plataformas, essenciais para o avanço do desenvolvimento da inteligência artificial, terão que aderir a padrões rigorosos de segurança cibernética para sua infraestrutura. O Departamento de Comércio destacou que essas informações são importantes para evitar o uso indevido da tecnologia americana por outros países.

A pressão regulatória surge na sequência da Ordem Executiva assinada pelodent Joe Biden em outubro de 2023. A ordem exige que os desenvolvedores de tecnologia de inteligência artificial submetam os resultados de seus testes de segurança ao Governo dos EUA antes de liberarem suas tecnologias para o público. A minuta divulgada pelo Departamento de Comércio está alinhada com esse objetivo mais amplo, que busca proteger a segurança nacional, a saúde pública e a economia do país contra as ameaças representadas pela inteligência artificial.

Esta proposta também dá seguimento aos esforços anteriores iniciados pelo governo Biden para implementar medidas que impeçam a China de acessar a tecnologia americana para o desenvolvimento de inteligência artificial, o que sugere crescentes preocupações com a segurança nesse setor em constante expansão.