A ascensão da IA ​​na tomada de decisões

A explosão da inteligência artificial (IA) está inundando nosso mundo com sonhos idealistas ou previsões apocalípticas, mas nenhum dos dois captura a verdadeira ameaça.

Não estamos diante de uma "grande rebelião robótica" onde inteligências artificiais ou robôs realizam uma tomada de poder hostil. Esqueçam as cenas de filmes como O Exterminador do Futuro ou Matrix — isso não está nos planos. A tecnologia para que as inteligências artificiais conquistem o mundo não existe.

A inteligência artificial pode se destacar em tarefas específicas, como dobrar proteínas ou jogar xadrez, mas não é capaz de construir exércitos ou governar nações.

No entanto, a ausência de uma revolta dos robôs não significa que estejamos seguros. A IA está se infiltrando silenciosamente em nossas vidas por meios menosmatic, mas igualmente poderosos: a burocracia digital.

O verdadeiro perigo não são os robôs assassinos. É a crescente influência da IA ​​nas decisões que controlam nosso dia a dia. Os humanos evoluíram para temer ameaças tangíveis. Pense em grandes predadores, como leões e tubarões.

Mas estamos menos preparados para identificar ameaças provenientes de papelada, documentos ou burocracia. A própria burocracia é uma invenção relativamente recente, tendo se desenvolvido apenas há 5.000 anos com a criação da escrita.

Antes da escrita, a propriedade, por exemplo, dependia do que a comunidade concordava. Se você "possuía" um terreno, era porque seus vizinhos o respeitavam. Nenhum documento era exigido. 

Das tábuas de argila aos burocratas digitais

Tudo mudou quando as pessoas começaram a usar tabuletas de argila e registros escritos. Os documentos escritos significavam que os direitos de propriedade não dependiam mais do consenso da comunidade, mas sim de registros oficiais. Os antigos mesopotâmios transformaram pedaços de barro em símbolos oficiais de propriedade, subvertendo a ideia de posse.

Uma decisão judicial poderia ser baseada em uma tabuleta de argila que comprovasse a propriedade de um terreno, mesmo que a comunidade discordasse. Avançando para os dias de hoje, nossos sistemas ainda são construídos com princípios semelhantes, só que agora usamos chips de silício e registros digitais em vez de argila.

Essa mudança transformou as estruturas de poder. A propriedade passou a ser algo que podia ser vendido e negociado sem a aprovação da comunidade local. Surgiram as burocracias, possibilitando a arrecadação de impostos, o financiamento militar e o governo central.

Os burocratas tornaram-se peças fundamentais nesses sistemas, utilizando registros, formulários e carimbos para gerenciar exércitos, alocar recursos e até mesmo controlar leis. Esses sistemas burocráticos deram origem a estados centralizados com amplo controle sobre suas populações, um controle que agora está sendo transferido para a IA.

A inteligência artificial não precisa criar um exército de robôs; basta que domine os sistemas burocráticos. Dentro dessas estruturas, a IA pode tomar decisões mais influentes do que qualquer ser humano, como já se observa hoje. As IAs já estão decidindo se conseguiremos empréstimos, ofertas de emprego, admissões em universidades e até mesmo diagnósticos médicos.

Imagine banqueiros com IA determinando a elegibilidade para crédito, juízes com IA decidindo casos judiciais ou militares com IA calculando alvos de ataque. A IA não precisa de uma rebelião de robôs. O poder burocrático que ela está herdando já é enorme.

Inteligência artificial nas redes sociais e influência pública

Os algoritmos das redes sociais, embora primitivos, já exercem um poder imenso. Os algoritmos de IA, particularmente os do Facebook, X (antigo Twitter), YouTube e TikTok, são criados com um objetivo em mente: o engajamento do usuário. Quanto mais tempo as pessoas permanecem nessas plataformas, mais dinheiro flui para as corporações. 

Por meio de tentativas e erros com bilhões de usuários, esses algoritmos descobriram que ativar emoções como ganância, raiva e medo aumenta o engajamento. Ao acionar esses gatilhos emocionais, eles mantêm os usuários engajados.

Esses algoritmos não se limitaram a otimizar o tempo gasto online. Eles foram além, descobrindo que conteúdo que provoca emoções intensas aumenta o engajamento do usuário. Essa descoberta resultou na disseminação de teorias da conspiração, desinformação e divisões sociais.

O mundo atual está inundado de indignação digital, alarmismo e polarização, graças a algoritmos que priorizam cliques em detrimento da coesão. Ao explorar gatilhos emocionais, os algoritmos das redes sociais alimentaram a epidemia atual de teorias da conspiração e notícias falsas.

Esses "decisores" algorítmicos não são inerentemente maliciosos. Pelo contrário, são otimizados para desempenhar suas funções com eficiência. Ainda assim, suas decisões carecem da intuição ou do contexto humano que normalmente esperamos em áreas tão importantes.

A IA pode tomar decisões mais rápidas ou mais consistentes, mas se algo der errado, os resultados podem ser desastrosos. Esse risco potencial já se tornou visível na influência das redes sociais sobre a sociedade, servindo como um alerta sobre aonde o poder desenfreado da IA ​​pode levar.

Biden estabelece regras de IA para o Pentágono e agências de inteligência

Odent Joe Biden anunciou um memorando de segurança nacional com novas regras para o uso de IA na segurança nacional, impedindo o Pentágono e as agências de inteligência de usarem IA de maneiras que contradigam os valores democráticos.

Esta é a primeira diretiva que orienta o papel da IA ​​na segurança nacional. As novas regras incentivarão a experimentação com IA, garantindo, ao mesmo tempo, que os órgãos governamentais não a utilizem para infringir direitos como a liberdade de expressão ou para minar os controles nucleares.

“Nosso memorando estabelece a primeira estrutura governamental abrangente sobre nossos compromissos de gestão de riscos em IA”, disse o Conselheiro de Segurança Nacional, Jake Sullivan. Ele delineou metas para evitar vieses, manter a responsabilidade e garantir a supervisão humana da IA ​​em funções sensíveis.

Embora não sejam juridicamente vinculativas, as regras abrangem aplicações de segurança nacional, como cibersegurança, contra-inteligência e logística em operações militares. Biden também impôs controles de exportação no ano passado, retardando os avanços da China em IA ao restringir o acesso à tecnologia.

De acordo com a diretiva, o Instituto de Segurança de IA em Washington será responsável por inspecionar as ferramentas de IA para evitar o uso indevido antes do lançamento, com a comunidade de inteligência dos EUA priorizando o monitoramento dos avanços da IA ​​em outros países.