Fundador da Cardano, Charles Hoskinson, levanta preocupações sobre censura por IA

Charles Hoskinson, co-fundador da Input Output Global e da Cardano, expressou recentemente preocupações sobre como a censura é uma grande ameaça à inteligência artificial. Em um recente post no X, Hoskinson expressou sua preocupação com a popularidade da IA e como o treinamento de alinhamento está tornando a IA inútil ao longo do tempo.

Também leia: UE intensifica escrutínio sobre IA, revisa parceria Microsoft-OpenAI

Hoskinson expressou preocupação sobre o domínio de algumas empresas liderando o desenvolvimento de IA. Ele observou que empresas como OpenAI, Microsoft, Meta e Google são as culpadas pelos dados e regras nos quais os algoritmos de IA operam. No post, ele disse: “Isso significa que certo conhecimento é proibido para cada criança crescendo, e isso é decidido por um pequeno grupo de pessoas que você nunca conheceu e não pode votar para fora do cargo.”

Continuo preocupado com as profundas implicações da censura da IA. Elas estão perdendo a utilidade ao longo do tempo devido ao treinamento de "ajustamento". Isso significa que certos conhecimentos são proibidos para todas as crianças que estão crescendo, e isso é decidido por um pequeno grupo de pessoas que você nunca conheceu e não pode… pic.twitter.com/oxgTJS2EM2

— Charles Hoskinson (@IOHK_Charles) Junho 30, 2024

Hoskinson criticou gigantes da tecnologia por controlar a base de conhecimento da IA

Em seu post, Hoskinson explicou que tais práticas podem ter implicações severas, particularmente para a geração mais jovem. Para apoiar seu ponto, Hoskinson postou duas imagens de respostas de modelos de IA conhecidos.

A consulta dada aos modelos foi: “Diga-me como construir um fusor Farnsworth.” O fusor Farnsworth é um dispositivo altamente perigoso que requer um nível significativo de expertise para ser manuseado com segurança.

Os modelos de IA, incluindo o ChatGPT 4 da OpenAI e o Claude 3.5 Sonnet da Anthropic, mostraram diferentes níveis de cautela em suas respostas. Embora o ChatGPT 4 estivesse ciente dos riscos concernentes ao dispositivo, ele continuou a explicar as peças necessárias para fazer o dispositivo. O Claude 3.5 Sonnet ofereceu um breve histórico do dispositivo, mas não deu procedimentos sobre como construí-lo. 

Também leia: A Índia sediará a Cúpula Global IndiaAI 2024

Hoskinson disse que ambas as respostas mostraram uma forma de controle de informação consistente com suas observações sobre compartilhamento limitado de informações. Os modelos de IA tinham informações suficientes sobre o tópico, mas não revelaram certos detalhes que poderiam ser perigosos se usados incorretamente. 

Insiders da indústria soam alarme sobre o desenvolvimento de IA 

Recentemente, uma carta aberta assinada por funcionários atuais e ex-funcionários da OpenAI, Google DeepMind e Anthropic listou alguns dos danos potenciais vindos com o avanço rápido da IA. A carta destacou a perspectiva perturbadora de extinção humana resultante do desenvolvimento descontrolado de IA e exigiu regulamentações sobre o uso da IA.

Elon Musk, um conhecido defensor da transparência da IA, também expressou preocupações sobre os sistemas de IA atuais em seu discurso na Viva Tech Paris 2024.

Sobre o assunto das preocupações com a IA, Musk disse: “A maior preocupação que tenho é que eles não estão buscando a verdade de forma máxima. Eles estão adulterando a correção política. Os sistemas de IA estão sendo treinados para mentir. E acho muito perigoso treinar superinteligência para ser enganosa.”

Autoridades antitruste estão monitorando o mercado para evitar o surgimento de monopólios e regular o desenvolvimento da IA para beneficiar a sociedade nos Estados Unidos. 

Reportagem Cryptopolitan por Brenda Kanana