A influência das grandes empresas de tecnologia dificulta a regulamentação da IA: uma ameaça ao interesse público

À medida que os sistemas de inteligência artificial (IA) se integram cada vez mais em diversos aspectos da sociedade, crescem as preocupações com seus riscos e potenciais danos aos direitos fundamentais. No entanto, a revolução da IA, impulsionada principalmente pelas grandes empresas de tecnologia, enfrenta resistência por meio de esforços de lobby para impedir regulamentações destinadas a proteger o público.

Consequências reais de algoritmos tendenciosos

O impacto social da IA ​​não é um cenário de futuro distante, mas sim uma realidade atual. Exemplos abundam, desde os Países Baixos e o Reino Unido até à Austrália, onde algoritmos tendenciosos acusaram injustamente milhares de indivíduos de fraude aos benefícios da segurança social. As consequências têm sido desastrosas, particularmente para aqueles de famílias de baixos rendimentos e com origem migrante, levando a dívidas financeiras, falta de moradia e problemas de saúde mental.

Recentemente, o foco tem se voltado para os sistemas de IA mais avançados, conhecidos como "modelos de fundação", exemplificados pelo ChatGPT. Esses sistemas complexos podem servir a diversos propósitos, mas frequentemente se comportam de maneira imprevisível, até mesmo para seus desenvolvedores. Gigantes da tecnologia como Google e Microsoft os desenvolvem principalmente devido à enorme escala e aos recursos necessários. Essas empresas mantêm quase monopólios no setor de IA e investiram bilhões em parcerias com startups, reforçando seu domínio.

Preocupações éticas e equipes de ética cada vez menores

Alarmantemente, apesar de sua influência, muitas dessas gigantes da tecnologia dissolveram ou reduziram recentemente suas equipes de ética. Algumas dessas equipes haviam manifestado preocupação com os perigos associados aos sistemas de IA que estavam desenvolvendo. Isso levanta questões sobre as considerações éticas dentro da indústria de IA.

Reconhecendo os riscos potenciais representados pelos modelos de infraestrutura própria, o Parlamento Europeu tomou medidas na primavera para impor certas obrigações às empresas envolvidas no seu desenvolvimento. Essas obrigações constituem essencialmente um dever de diligência prévia. As empresas devem demonstrar que tomaram todas as medidas necessárias para mitigar os riscos aos direitos fundamentais, garantir a qualidade dos dados de formação e minimizar o impacto ambiental associado ao consumo de energia e água dos centros de dados.

esforços de lobby das grandes empresas de tecnologia

Embora as empresas de tecnologia defendam publicamente a regulamentação da IA, nos bastidores, elas resistem veementemente a qualquer forma de regulamentação relacionada aos modelos fundamentais. Uma pesquisa do Corporate Europe Observatory revela que as grandes empresas de tecnologia têm se engajado em intenso lobby para influenciar o cenário regulatório. No ano corrente, 66% das reuniões com membros do Parlamento Europeu sobre IA envolveram interesses corporativos, um aumento em relação aos 56% registrados entre 2019 e 2022.

Ao tomar conhecimento da intenção do Parlamento Europeu de regulamentar os modelos de fundações, as grandes empresas de tecnologia rapidamente redirecionaram seus esforços de lobby para a Comissão Europeia e os Estados-membros da UE. Este ano, 86% das reuniões de alto nível de funcionários da Comissão relacionadas à IA contaram com a presença de representantes da indústria. Os CEOs do Google, da OpenAI e da Microsoft interagiram pessoalmente com formuladores de políticas europeus nos mais altos escalões.

Apoio de fontes inesperadas

Surpreendentemente, as grandes empresas de tecnologia também encontraram apoio nas startups europeias de IA Mistral AI e Aleph Alpha, que exerceram pressão sobre seus respectivos governos nacionais (França e Alemanha). A Mistral AI estabeleceu um escritório de lobby em Bruxelas, liderado pelo ex-secretário de Estado francês para a Transição Digital, Cédric O, conhecido por sua influência junto aodent francês Emmanuel Macron.

A oposição das gigantes da tecnologia e de alguns Estados-membros tem dificultado as negociações do "trílogo" entre as instituições da UE. Mesmo quando um acordo for alcançado, decisões importantes ainda precisarão ser tomadas durante a implementação, o que permite que as grandes empresas de tecnologia continuem a influenciar o processo.

A influência exercida pelas grandes empresas de tecnologia na esfera regulatória levanta uma questão crucial: será que elas se tornaram tão poderosas que é impossível regulamentá-las eficazmente? Com ​​seu poder de influência e acesso privilegiado ao poder, muitas vezes conseguiram obstruir regulamentações que poderiam ter limitado suas práticas comerciais controversas. Assim como a indústria do tabaco foi excluída do lobby junto a autoridades de saúde pública devido a anos de táticas manipuladoras, cresce o apelo para restringir as atividades de lobby das grandes empresas de tecnologia quando o interesse público está em jogo.