Nações do G7 estabelecerão regras inovadoras de IA sobre privacidade e segurança

Em um movimento inovador, os países do G7, incluindo Canadá, França, Alemanha, Itália, Japão, Reino Unido e EUA, estão prestes a revelar um conjunto histórico de regras que regem o uso da inteligência artificial (IA) em relação a preocupações de privacidade e riscos de segurança. As regras, consistindo em um código de conduta de 11 pontos, estão em desenvolvimento desde maio como parte do “processo de IA de Hiroshima” e visam garantir a implantação segura, protegida e confiável da IA em todo o mundo.

O objetivo principal do código é promover o desenvolvimento e a implantação responsáveis de sistemas de IA, incluindo modelos fundamentais avançados e IA generativa. Busca-se equilibrar a colheita dos benefícios da IA e o enfrentamento de riscos e desafios potenciais. 

Especificamente, o código visa incentivar as empresas a tomar medidas para mitigar riscos ao lançar novos sistemas de IA e abordar qualquer uso indevido assim que esses sistemas estiverem no mercado. Além disso, pede às empresas que forneçam relatórios públicos detalhando as capacidades de seus produtos de IA e invistam em controles de segurança.

O código de conduta está alinhado com uma ordem executiva emitida pelo presidente dos EUA Biden, destacando a importância global de abordar os desafios relacionados à IA. Embora os detalhes específicos do código ainda não tenham sido divulgados, espera-se que ele esteja estreitamente alinhado com os princípios delineados na ordem do presidente Biden.

Equilibrando riscos e benefícios

O código abrange uma ampla gama de objetivos destinados tanto a mitigar danos potenciais quanto a maximizar as vantagens da tecnologia de IA. Esses objetivos incluem:

Engenharia de Materiais Biológicos: Incentivar o uso responsável da IA na engenharia de materiais biológicos.

Detecção de Conteúdo Gerado por IA: Desenvolver métodos para detectar conteúdo gerado por IA, particularmente deepfakes.

Prevenção da Discriminação: Implementar ferramentas para impedir que a IA exacerbe a discriminação e o viés em várias aplicações.

IA na Justiça Criminal: Estabelecer melhores práticas para o uso da IA no sistema de justiça criminal para garantir justiça e precisão.

Aumento de Talentos em IA: Fomentar um aumento de talentos em IA em todo o governo para apoiar a segurança e o desenvolvimento da IA.

A cimeira de segurança de IA do Reino Unido 2023

Enquanto isso, no Reino Unido, a Cimeira de Segurança de IA 2023 está agendada para ocorrer no Bletchley Park, um local conhecido por seu papel na decifração dos códigos Enigma durante a Segunda Guerra Mundial. Esta cimeira reúne governos, empresas de IA, grupos da sociedade civil e especialistas para debater os riscos associados à IA e como eles podem ser mitigados eficazmente. 

Os principais objetivos da cimeira incluem estabelecer uma compreensão compartilhada dos riscos apresentados pela IA avançada, fomentar a colaboração internacional na segurança da IA, determinar medidas organizacionais para melhorar a segurança da IA e identificar áreas para colaboração potencial em pesquisa.

No entanto, a Cimeira de Segurança de IA 2023 enfrentou críticas de vários setores. Uma carta aberta dirigida ao Primeiro-Ministro Sunak, assinada por sindicatos, defensores dos direitos e outras organizações, levanta preocupações sobre a exclusividade da cimeira. 

Os críticos argumentam que o evento foca excessivamente em discussões especulativas sobre os “riscos existenciais” distantes da IA avançada, que são principalmente desenvolvidos por corporações envolvidas na formulação de regulamentações de IA. Eles sustentam que os danos reais da IA, como a perda de empregos impulsionada por algoritmos e o perfilamento injusto, são sentidos por milhões no presente.

A crítica destaca uma preocupação ética crucial em relação à autorregulação na indústria de IA. À medida que as empresas de IA participam ativamente na formulação das regras que regem sua tecnologia, surge o potencial de conflitos de interesse, tornando difícil distinguir entre o interesse corporativo e o bem-estar social mais amplo.

A eficácia das regras voluntárias e a definição de uso indeciso permanecem aspectos ambíguos da regulamentação de IA. O que uma parte pode considerar uso indevido, outra pode perceber como uma oportunidade de negócio. Por exemplo, o lucro com dados pessoais, uma pedra angular das redes sociais e da pesquisa, pode ser visto como uso indevido por alguns.

Compromisso sério em abordar os desafios da IA

Apesar dessas complexidades, a enxurrada de atividades, cimeiras e discussões ao nível governamental em todo o mundo demonstra uma maior conscientização e compromisso em abordar as implicações da IA. O campo da IA está sendo levado mais a sério do que nunca, com o reconhecimento da necessidade de estabelecer um equilíbrio entre inovação e responsabilidade.