Governo é alertado sobre o uso ético da IA ​​na guerra.

O governo do Reino Unido foi alertado sobre suas ambições de incorporar inteligência artificial (IA) na defesa, particularmente em sistemas de armas autônomas (SAA) com IA. Um relatório da Câmara dos Lordes, no Comitê de Sistemas de Armas, destaca a necessidade de considerações éticas e legais, confiança pública e aprovação democrática no desenvolvimento e uso de IA, especialmente no que diz respeito a sistemas de armas autônomas.

A potencial integração da IA ​​na guerra por meio da AWS é considerada um divisor de águas na tecnologia de defesa. No entanto, o comitê da Câmara dos Lordes enfatiza a importância de uma abordagem cautelosa e responsável para aproveitar os benefícios sem comprometer os princípios éticos e legais.

Principais recomendações

O relatório do comitê da Câmara dos Lordes apresenta diversas recomendações importantes para orientar a abordagem do governo em relação à IA na guerra:

1. Liderança em regulamentação internacional

O governo do Reino Unido é instado a assumir um papel de liderança no engajamento internacional em relação à regulamentação de sistemas de armas nucleares. Os resultados das discussões internacionais podem levar a um tratado juridicamente vinculativo ou a medidas não vinculativas que esclareçam a aplicação do direito internacional humanitário. Além disso, o Reino Unido deve liderar os esforços para proibir o uso de inteligência artificial no comando, controle e comunicações nucleares.

2. Estabelecer uma defioperacional

Surpreendentemente, o governo do Reino Unido atualmente não possui uma defioperacional de AWS (Aircraft Systems - Sistemas Aéreos de Armas). O comitê propõe a criação de uma defià prova de futuro para auxiliar no desenvolvimento de políticas e na participação em diálogos internacionais. Uma deficlara é essencial para um engajamento significativo em discussões sobre AWS.

3. Garantir o controle humano

O comitê enfatiza a importância de manter o controle humano em todas as etapas do ciclo de vida dos Agentes Aéreos Não Defensivos (AWS). Isso inclui o destacamento para garantir a autonomia moral humana e a conformidade legal, em consonância com o direito internacional humanitário. O relatório reforça o compromisso do Reino Unido com esses requisitos.

4. Reformulação dos processos de aquisição

Os processos de aquisição do Ministério da Defesa são alvo de críticas por falta de transparência e excesso de burocracia. Além disso, o ministério é apontado como carente de capacidade em software e dados, ambos cruciais para o desenvolvimento da IA. O comitê alerta que mudanças revolucionárias podem ser necessárias, ressaltando a urgência de se abordar essas questões.

Perspectiva do Presidente

Lord Lisvane, presidente do Comitê de Inteligência Artificial em Sistemas de Armas, observou: “A Inteligência Artificial permeou vários aspectos de nossas vidas, e a defesa não é exceção. Seu potencial para revolucionar a tecnologia de defesa é um tema de debate e controvérsia. Embora a IA possa oferecer benefícios estratégicos e em campo de batalha substanciais, nosso relatório, 'Proceda com Cautela: Inteligência Artificial em Sistemas de Armas', enfatiza a necessidade de uma abordagem cautelosa por parte do governo.”

Lord Lisvane afirmou ainda: “Saudamos o reconhecimento, por parte do governo, do papel da IA ​​responsável nas futuras capacidades de defesa. No entanto, os princípios éticos e legais devem ser integrados em todas as etapas da IA ​​na AWS, acompanhados de esforços para garantir a compreensão pública e a aprovação democrática. A tecnologia deve aprimorar nossas capacidades, mas não à custa de nossos princípios morais.”

O relatório do comitê da Câmara dos Lordes destaca o potencial transformador da IA ​​na defesa, ao mesmo tempo que insta o governo do Reino Unido a proceder com cautela, responsabilidade e transparência. As recomendações enfatizam a importância da liderança internacional, da clareza operacional, do controle humano e de um processo de aquisição reformulado para garantir que a IA seja utilizada para a segurança nacional sem comprometer a ética e a legalidade.

À medida que o cenário global evolui na era da IA, a abordagem do Reino Unido à IA na guerra influenciará, sem dúvida, as discussões e regulamentações internacionais, moldando o futuro dos sistemas de armas autônomas em todo o mundo.