- A UE alcança acordo provisório sobre o AI Act após negociações de trilogio que abordam 21 questões, mas potenciais brechas levantam preocupações quanto à fiscalização corporativa.
- O AI Act introduz uma abordagem baseada no risco, proibições, transparência para modelos fundamentais, avaliação de impacto nos direitos fundamentais, multas, e a criação do AI Office e do Conselho. No entanto, persistem preocupações de que as isenções comprometam as medidas protetivas.
- Os funcionários afirmam haver um equilíbrio entre inovação e proteção, mas os críticos argumentam que o AI Act impulsiona as startups europeias ao liderança global em IA, sugerindo uma agenda oculta de deregulamentação.
Em uma medida no final da sexta-feira, as instituições da União Europeia alcançaram um acordo provisório sobre a tão esperada AI Act após intensas negociações trilaterais. No entanto, em meio à celebração deste passo significativo para frente, surgem preocupações sobre possíveis brechas que poderiam transformar este marco regulatório em uma disfarce para a deregulamentação.
A AI Act, destinada a estabelecer um quadro para o desenvolvimento e uso responsáveis da inteligência artificial, espera-se que equilibre inovação e proteção social. No entanto, as intricacidades do acordo, particularmente emergindo das negociações de última hora, levantam questões sobre as verdadeiras intenções por trás da legislação aparentemente abrangente.
Componentes-chave da AI Act
O princípio central de uma abordagem baseada em riscos, originalmente proposta pela Comissão Europeia, permanece intacto. Sistemas de IA de 'alto risco', que representam ameaças à saúde, segurança, direitos fundamentais, meio ambiente, democracia e estado de direito, estão sujeitos a requisitos específicos. Mas, a adição de condições de filtragem levanta preocupações sobre possíveis brechas que poderiam isentar certas aplicações de alto risco.
A AI Act proíbe sistemas de IA que causem riscos inaceitáveis, incluindo aqueles que manipulam o comportamento humano, exploram vulnerabilidades e realizam raspagem de imagens faciais não direcionada. Embora a proibição seja abrangente, exceções por motivos de segurança, como reconhecimento de emoções no local de trabalho, introduzem ambiguidade e possíveis brechas.
Obrigações de transparência para modelos fundamentais, especialmente aqueles de 'alto impacto' com risco sistêmico, são introduzidas. Regras mais rigorosas exigem avaliações de modelos, avaliações de risco sistêmico, testes adversariais, medidas de cibersegurança e relatórios de incidentes. No entanto, a dependência de códigos de prática até que padrões harmonizados da UE sejam estabelecidos pode criar incertezas na conformidade.
A inclusão de uma avaliação de impacto nos direitos fundamentais (FRIA) aborda preocupações sobre vigilância discriminatória do estado e IA na aplicação da lei. No entanto, isenções para agências de aplicação da lei levantam questões sobre a eficácia da FRIA na prevenção da implantação prejudicial de ferramentas de IA de alto risco.
Violações da AI Act incorrerão em multas que variam de €35 milhões ou 7% do faturamento anual global a €7,5 milhões ou 1,5% do faturamento para infrações menores. Embora as multas visem impor a conformidade, levantam-se preocupações sobre possíveis contornamentos através de 'tetos proporcionais', favorecendo empresas maiores e incentivando-as a delegar projetos de IA de risco a startups.
O estabelecimento de um Escritório de IA e um Conselho forma a estrutura de governança. O escritório dentro da comissão supervisiona modelos de IA avançados, enquanto o conselho, composto por representantes dos estados-membros, atua como uma plataforma de coordenação. A inclusão limitada de partes interessadas da sociedade como especialistas técnicos pode diminuir a voz da sociedade civil na formação de regulamentações de IA.
Lacunas não exploradas e preocupações na AI Act
Apesar das afirmações de figuras-chave como Thierry Breton e outros expressando confiança no equilíbrio entre inovação e proteção, persistem preocupações sobre possíveis brechas na AI Act. Em uma conferência de imprensa no final da noite na sexta-feira, os funcionários reconheceram que condições de filtragem e exceções poderiam permitir que aplicações de alto risco escapassem ao escrutínio. Questões como a proibição de sistemas de identificação biométrica e a implantação de ferramentas de IA de alto risco em circunstâncias urgentes levantam dúvidas sobre a eficácia da lei.
A afirmação de Thierry Breton de que a AI Act transcende ser um mero livro de regras, funcionando como uma plataforma para startups e pesquisadores da UE tomarem a liderança na corrida global por IA, implica uma ambiência inerente de estabelecer a UE como uma força proeminente no campo da inteligência artificial. Críticos argumentam que isso reflete uma abordagem deregulatória, priorizando o apoio e o avanço de empresas de IA baseadas na UE em detrimento de regulamentações rigorosas.
À medida que a AI Act se aproxima de se tornar uma realidade, o debate em torno de sua eficácia e possíveis brechas se intensifica. A legislação realmente equilibrará o fomento da inovação e a salvaguarda da sociedade, ou é uma estratégia de deregulamentação cuidadosamente disfarçada? Os próximos meses revelarão o verdadeiro impacto da AI Act na paisagem de IA dentro da União Europeia e além.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
