A Lei de IA da UE suscita preocupações em matéria de direitos humanos

A União Europeia (UE) testemunhou recentemente um debate acirrado entre os seus Estados-Membros, a Comissão Europeia e o Parlamento Europeu relativamente à histórica Lei da Inteligência Artificial (IA). Esta legislação crucial, que visa regulamentar a implementação de tecnologias de IA na UE, suscitou tanto elogios como críticas. 

Mher Hakobyan, consultor de defesa dos direitos humanos em inteligência artificial, expressou decepção com o que considera uma oportunidade perdida para salvaguardar os direitos humanos e a privacidade.

Um dos principais pontos de controvérsia na Lei de Inteligência Artificial é a regulamentação da tecnologia de reconhecimento facial. Os defensores de uma regulamentação rigorosa da IA ​​inicialmente pediram uma proibição incondicional do reconhecimento facial em tempo real. No entanto, a versão final da legislação não atende a essa demanda, permitindo o uso limitado da tecnologia de reconhecimento facial sob certas salvaguardas.

Mher Hakobyan argumenta que esse acordo é uma grande decepção, pois, segundo ele, nenhuma salvaguarda pode impedir eficazmente as potenciais violações dos direitos humanos associadas à tecnologia de reconhecimento facial. Ele afirma que a ausência de uma proibição total da tecnologia de reconhecimento facial representa uma oportunidade perdida para proteger os direitos humanos, o espaço cívico e o Estado de Direito na UE, que, em sua opinião, já estão ameaçados.

Exportação de tecnologias de IA prejudiciais

Outro aspecto controverso da Lei de IA é a regulamentação das exportações de tecnologia de IA. Alguns críticos argumentam que a legislação não é suficiente para impedir a exportação de tecnologias de IA que poderiam ser usadas para fins prejudiciais, como a avaliação social. A Lei de IA permite que empresas europeias exportem tecnologias de IA que podem ser consideradas ilegais dentro da UE, criando o que Hakobyan considera um perigoso duplo padrão.

Hakobyan argumenta que permitir que empresas europeias lucrem com tecnologias reconhecidas como inadmissivelmente prejudiciais aos direitos humanos em seus países de origem é preocupante. Ele acredita que medidas maistrondeveriam ter sido tomadas para garantir que as tecnologias de IA desenvolvidas na UE não sejam usadas para violar os direitos humanos em outras partes do mundo.

Apesar da natureza controversa do debate, um acordo político provisório de alto nível sobre a Lei de Inteligência Artificial foi alcançado. No entanto, antes que possa se tornar lei, reuniões técnicas intensivas estão programadas para finalizar o texto da legislação.

Apelo da Amnistia Internacional por proteçõestron

A Anistia Internacional, juntamente com uma coligação de organizações da sociedade civil liderada pela Rede Europeia de Direitos Digitais (EDRi), tem defendido uma regulamentação robusta da IA ​​na UE que priorize e proteja os direitos humanos. O seu apelo a uma proibição abrangente da utilização, desenvolvimento, produção, venda e exportação de tecnologia paradenttem sido um ponto central dos seus esforços de defesa.

O resultado da Lei de Inteligência Artificial reflete os desafios de encontrar um equilíbrio entre fomentar a inovação e proteger os direitos fundamentais no campo da inteligência artificial, que evolui rapidamente. A decisão de permitir o uso limitado da tecnologia de reconhecimento facial sob certas salvaguardas reconhece os benefícios potenciais da IA, ao mesmo tempo que tenta mitigar seus riscos. No entanto, críticos como Mher Hakobyan argumentam que essas salvaguardas são insuficientes e que uma proibição total de certas aplicações de IA é necessária para prevenir violações dos direitos humanos.

O debate em torno da Lei de IA também destaca as complexidades da regulamentação das tecnologias de IA em escala global. Embora a UE esteja tomando medidas para regulamentar a IA dentro de suas fronteiras, a exportação dessas tecnologias continua sendo uma questão controversa. Encontrar um equilíbrio entre apoiar a inovação europeia e prevenir o uso indevido de ferramentas de IA no exterior é um desafio que os formuladores de políticas continuam a enfrentar.