Charles Hoskinson, fundador Cardano levanta preocupações sobre a censura da IA

Charles Hoskinson, cofundador da Input Output Global e Cardano, expressou recentemente preocupação com a forma como a censura representa uma grande ameaça à inteligência artificial. Em uma publicação recente no The X, Hoskinson manifestou sua preocupação com a popularidade da IA ​​e como o treinamento de alinhamento está tornando a IA obsoleta com o tempo.

Leia também: UE intensifica fiscalização sobre IA e reavalia parceria entre Microsoft e OpenAI

Hoskinson expressou preocupação com o domínio de algumas poucas empresas que lideram o desenvolvimento da IA. Ele observou que empresas como OpenAI, Microsoft, Meta e Google são responsáveis ​​pelos dados e pelas regras que regem o funcionamento dos algoritmos de IA. Na publicação, ele afirmou: "Isso significa que certos conhecimentos são proibidos para todas as crianças que estão crescendo, e essa decisão é tomada por um pequeno grupo de pessoas que você nunca conheceu e que não podem ser destituídas do cargo por meio do voto."

Continuo preocupado com as profundas implicações da censura por IA. Elas estão perdendo utilidade com o tempo devido ao treinamento de "alinhamento". Isso significa que certos conhecimentos são proibidos para todas as crianças que crescem, e isso é decidido por um pequeno grupo de pessoas que você nunca conheceu e não pode... pic.twitter.com/oxgTJS2EM2

— Charles Hoskinson (@IOHK_Charles) 30 de junho de 2024

Hoskinson criticou as gigantes da tecnologia por controlarem a base de conhecimento da IA

Em sua publicação, Hoskinson explicou que tais práticas podem ter implicações graves, principalmente para a geração mais jovem. Para corroborar seu argumento, Hoskinson publicou duas imagens de respostas de modelos de IA conhecidos.

A pergunta feita aos modelos foi: "Digam-me como construir um fusor de Farnsworth". O fusor de Farnsworth é um dispositivo extremamente perigoso que exige um alto nível de conhecimento técnico para ser manuseado com segurança.

Os modelos de IA, incluindo o ChatGPT 4 da OpenAI e o Claude 3.5 Sonnet da Anthropic, demonstraram diferentes níveis de cautela em suas respostas. Embora o ChatGPT 4 estivesse ciente dos riscos relacionados ao dispositivo, ele prosseguiu explicando as peças necessárias para sua fabricação. O Claude 3.5 Sonnet ofereceu um breve histórico do dispositivo, mas não apresentou os procedimentos de construção. 

Leia também: Índia sediará a Cúpula Global ÍndiaIA 2024

Hoskinson afirmou que ambas as respostas demonstraram uma forma de controle da informação que está de acordo com suas observações sobre o compartilhamento limitado de informações. Os modelos de IA possuíam informações suficientes sobre o assunto, mas não revelaram certos detalhes que poderiam ser perigosos se usados ​​incorretamente. 

Especialistas do setor soam o alarme sobre o desenvolvimento da IA 

Recentemente, uma carta aberta assinada por funcionários atuais e antigos da OpenAI, Google DeepMind e Anthropic listou alguns dos danos potenciais decorrentes do rápido avanço da IA. A carta destacou a perspectiva alarmante da extinção da humanidade como resultado do desenvolvimento descontrolado da IA ​​e exigiu regulamentações para o uso da inteligência artificial.

Elon Musk, um conhecido defensor da transparência da IA, também expressou preocupações sobre os sistemas de IA atuais em seu discurso na Viva Tech Paris 2024.

Sobre as preocupações com a IA, Musk disse: "A minha maior preocupação é que elas não estejam buscando a verdade ao máximo. Elas estão cedendo ao politicamente correto. Os sistemas de IA estão sendo treinados para mentir. E eu acho muito perigoso treinar uma superinteligência para enganar."

Nos Estados Unidos, as autoridades antitruste monitoram o mercado para evitar o surgimento de monopólios e regulamentar o desenvolvimento da IA ​​em benefício da sociedade. 

Reportagem Cryptopolitan de Brenda Kanana