Segurança Nacional em Risco – Instituto de IA do Reino Unido Urgi Cautela na Implantação de Tecnologias de IA Generativa

Em uma medida, o Instituto Alan Turing, o principal instituto nacional do Reino Unido para inteligência artificial, emitiu um relatório abrangente instando o governo a estabelecer "linhas vermelhas" para a implantação de IA generativa, especialmente em contextos onde a tecnologia pode tomar ações irreversíveis sem supervisão humana direta. O relatório, lançado na noite de sexta-feira, enfatiza as preocupações do instituto sobre a natureza não confiável e propensa a erros das ferramentas atuais de IA generativa, especialmente em cenários de alto risco dentro da segurança nacional.

A não confiabilidade da IA generativa e os riscos à segurança nacional

O relatório do Instituto Alan Turing destaca as deficiências atuais das ferramentas de IA generativa, enfatizando sua não confiabilidade e propensão a erros, especialmente em contextos críticos de segurança nacional. Isso destaca a necessidade de uma mudança fundamental de mentalidade para levar em conta as maneiras não intencionais ou incidentais pelas quais a IA generativa representa riscos à segurança nacional. O relatório sugere que a dependência excessiva dos usuários nas saídas geradas por IA pode levar a uma relutância em desafiar informações potencialmente falhas.

O relatório destaca especificamente os agentes autônomos como uma aplicação primordial da IA generativa que exige supervisão rigorosa em um contexto de segurança nacional. Ao reconhecer o potencial da tecnologia para acelerar a análise de segurança nacional, o relatório adverte que os agentes autônomos carecem de raciocínio de nível humano e não podem replicar a compreensão inata do risco, crucial para evitar falhas. 

As medidas de mitigação propostas incluem o registro de ações e decisões tomadas por agentes autônomos, a anexação de avisos a cada etapa da saída da IA generativa e o documentar de cenários de pior caso.

Recomendações governamentais e restrições rigorosas

O Instituto Alan Turing recomenda restrições rigorosas em áreas onde é necessária “confiança perfeita”, como no comando e controle nuclear e, potencialmente, em áreas menos existenciais, como policiamento e justiça criminal. O relatório sugere a implementação de freios de segurança para sistemas de IA que controlam infraestruturas críticas, semelhantes aos sistemas de travagem em outras tecnologias. No entanto, enfatiza a importância de considerar limitações e riscos, especialmente para altos funcionários que podem não compartilhar a cautela da equipe operacional.

O relatório também sinaliza o uso malicioso da IA generativa como uma preocupação de segurança, observando que a tecnologia aumenta os riscos sociais existentes, como desinformação, fraude e material de abuso sexual infantil. Atores mal-intencionados, sem restrições por requisitos de precisão e transparência, representam uma ameaça. O relatório recomenda o apoio do governo para recursos de marca d'água resistentes a adulterações, exigindo compromissos de fabricantes de GPU como a NVIDIA e coordenação governamental internacional. Os desafios para a implementação são reconhecidos como formidáveis.

Com a urgente chamada por ‘Linhas Vermelhas para a IA Generativa’ do Instituto Alan Turing, o relatório navega na delicada intersecção entre inovação tecnológica e segurança nacional. A ênfase do instituto em uma mudança de paradigma reconhece a falta de confiabilidade das ferramentas atuais de IA generativa, particularmente em cenários de alto risco, e sublinha a necessidade de restrições rigorosas e medidas de segurança. 

Enquanto o governo do Reino Unido lida com a regulamentação da IA, as recomendações servem como um roteiro, incentivando uma abordagem proativa para mitigar os riscos associados a agentes autônomos e uso malicioso. A questão permanece: Como as estruturas regulatórias podem se adaptar para equilibrar inovação e segurança, garantindo a evolução responsável da IA generativa em nosso complexo cenário socio-técnico? O desafio reside em traduzir essas recomendações em políticas eficazes que protejam contra ameaças potenciais, ao mesmo tempo em que fomentam o contínuo avanço tecnológico.