O czar da criptografia dos EUA, David Sacks, alerta para uma inteligência artificial orwelliana que espiona os cidadãos

David Sacks, o czar das criptomoedas e da inteligência artificial dos EUA, alertou na segunda-feira que a inteligência artificial poderá em breve permitir níveis de vigilância "orwellianos" sobre os cidadãos.

Sacks alertou que a maior ameaça da IA ​​não é a possibilidade de as máquinas se voltarem contra os humanos. Ele comentou: “O que realmente estamos discutindo é a IA orwelliana. Estamos falando de uma IA que mente, que distorce respostas, que reescreve a história em tempo real para servir à agenda política atual daqueles que estão no poder.”

Sacks defende regulamentações focadas no uso indevido de IA em vez de desenvolvedores

Sacks abordou a abordagem da administração Trump em relação às criptomoedas e à inteligência artificial, traçando um contraste com as políticas da administração anterior, durante um episódio do programa The Ben & Marc Show, da Andreessen Horowitz, que foi ao ar na segunda-feira.

Ele criticou o governo Biden e estados governados por democratas, como a Califórnia e o Colorado, por serem excessivamente agressivos na sua busca por regras de proteção ao consumidor relacionadas à IA que abordam a "discriminação algorítmica"

Ele alertou que a regulamentação excessiva representa uma ameaça à IA, transformando-a em um instrumento político que reflete o viés do governo e apaga as verdades inconvenientes da história.

Sacks observou que um sistema orwelliano, capaz de alterar informações deliberadamente para criar uma realidade que atenda aos interesses de líderes políticos, representa o maior risco para o público. Ele explicou: “Há a questão da vigilância. A IA saberá tudo sobre você. Ela será como sua assistente pessoal e, portanto, a ferramenta perfeita para o governo monitorar e controlar você. Para mim, esse é, de longe, o maior risco da IA.”

Embora tenha enfatizado que o verdadeiro problema não está na tecnologia em si, mas nas pessoas que optam por usá-la indevidamente, ele defendeu regras que visem indivíduos que instrumentalizam a IA, em vez de regulamentações abrangentes que restringem a indústria e os desenvolvedores em geral.

Ele observou que já existem leis contra a discriminação, portanto, os órgãos reguladores devem se concentrar em punir as empresas que fazem mau uso da IA, em vez das empresas que a desenvolvem.

Sacks acusou Anthropic de espalhar medo 

Recentemente, Sacks criticou a empresa de pesquisa em IA Anthropic, acusando-a de fomentar o medo para influenciar as futuras políticas de IA.

A empresa publicou um ensaio intitulado "Otimismo Tecnológico e Medo Apropriado", que desencadeou um debate acalorado nas redes sociais sobre o futuro da regulamentação da IA. Sacks questionou o ensaio, afirmando que a empresa pretende manipular o medo público da IA ​​para influenciar as regulamentações.

Apesar disso, o investidor bilionário e cofundador do LinkedIn, Reid Hoffman, saiu em defesa da Anthropic, chamando a empresa de "uma das boas". Sua publicação, no entanto, provocou uma rápida resposta de Sacks, levando a uma breve troca de mensagens online.

Em uma das postagens, Sacks observou que a questão central era o suposto plano da Anthropic de influenciar estados democratas como a Califórnia a aprovarem, de forma discreta, regras de IA com viés político.

Conforme relatado anteriormente, o Cryptopolitan Dario Amodei, contestou as alegações do funcionário, classificando-as como "imprecisas". Ele insistiu que a empresa sempre pressionou por uma supervisão federal para evitar uma colcha de retalhos de regulamentações estaduais conflitantes.

A empresa observou que sua carta de compromisso com o benefício público a obriga a usar a IA para o bem maior da sociedade e a manter a liderança dos EUA no setor, acrescentando que está trabalhando para os mesmos objetivos que o governo Trump e os cidadãos.