A apresentação da Microsoft e da OpenAI gera controvérsia sobre o uso de ferramentas de IA pelas forças armadas

No mês passado, durante o Seminário de Alfabetização em IA Militar para o Departamento de Defesa dos EUA, a Microsoft, juntamente com a OpenAI, demonstrou suas soluções, intensificando o debate sobre as prováveis ​​aplicações militares da tecnologia de IA. O evento, que ocorreu em outubro de 2023, apresentou demonstrações de produtos com foco em itens aplicáveis ​​ao Pentágono, incluindo o gerador de imagens DALL-E da OpenAI.

Proposta da Microsoft para integração militar

A principal ferramenta apresentada pela Microsoft foi um gerador de imagens chamado DALL-E, que poderia encontrar usos e aplicações nos mais recentes sistemas de gerenciamento de batalha. Esses sistemas abrangentes, cruciais para o planejamento militar, fornecem a todos os comandantes uma visão geral de todo o campo de batalha a partir de uma única posição. Isso também é muito útil na coordenação e no controle de movimentação de diversas atividades, na escolha de alvos para ataques de artilharia e aéreos, e assim por diante. A proposta da Microsoft incluía a utilização do DALL-E para o aprimoramento inovador dos sistemas de software de comando e controle, visando alcançar seus objetivos de eficiência e eficácia.

A OpenAI, por outro lado, manteve-se distante da apresentação na EuroDIG 2019, ao contrário da Microsoft. A organização informou que não participou da conferência e não vendeu nenhum produto ao Ministério da Defesa checo. A porta-voz da OpenAI, Liz Bourgot, declarou que a posição da empresa é contrária à aplicação de qualquer uma de suas ferramentas pelas forças armadas, pois isso implicaria em atividades que poderiam levar à destruição ou ferimentos de pessoas, por exemplo. Mesmo com a oferta da Microsoft, Bourgot ainda considerou a OpenAI parcialmente enganosa quanto à possibilidade de colaboração com agências de defesa para o uso da tecnologia em fins militares.

Esclarecimentos da Microsoft

Com o apoio da Microsoft, o Pentágono já pode usar o DALL-E para treinamento e simulação mais realistas nas forças militares. A empresa, no entanto, rejeitou essa ideia, pois o plano, como tal, não se concretizou. A Microsoft observou que as demonstrações hipotéticas foram elaboradas com base em diálogos com seus clientes sobre como eles poderiam usar o novo produto. Além disso, a empresa estipulou que, caso alguma equipe do Pentágono utilize ferramentas da OpenAI fornecidas à Microsoft, tanto o Pentágono quanto a Microsoft deverão defiregras de uso e controle.

A recente atualização do código de conduta da OpenAI eliminou as exclusões explícitas para o uso de sua tecnologia avançada em aplicações militares e bélicas. Essa alegação complicou ainda mais as questões éticas relacionadas ao uso de IA em contextos militares. Além disso, a OpenAI manteve-se firme em sua objeção ao uso de suas ferramentas para quaisquer atividades prejudiciais, mas a eliminação dessas exigências deixou em aberto a questão de quais são as restrições e condições para a aplicação da IA ​​na defesa.

Discussões em curso e considerações éticas

A divulgação de uma patente da Microsoft sobre essa abordagem e a explicação da OpenAI sobre seus padrões e procedimentos éticos transformaram radicalmente o cenário da indústria tecnológica, bem como o dos legisladores, que agora se preocupam com os limites éticos da tecnologia de Inteligência Artificial. A integração da IA ​​ao processo militar levanta questões moralmente complexas e envolve raciocínio jurídico, o que exige a elaboração de procedimentos mais rigorosos para a criação e implantação de sistemas de IA.

Em consonância com os avanços nas soluções de IA, as considerações éticas também se intensificam, especialmente em setores cruciais para a soberania do país, como a proteção nacional. A apresentação da Microsoft e da OpenAI no seminário do Departamento de Defesa dos EUA enfatiza a crescente intenção de adotar a tecnologia de IA para apoiar assuntos militares. Embora existam aspectos benéficos, também há preocupações quanto aos resultados dessas aplicações, bem como às questões éticas relacionadas a essa integração. Portanto, precisamos mantê-las em consideração e observar como serão incorporadas às operações militares.

Este artigo foi publicado originalmente no Yahoo.