Vitalik Buterin diz que a luta pelos empregos de IA depende do que as pessoas querem dizer com superinteligência

O co-fundador do Ethereum, Vitalik Buterin, argumenta que grande parte do debate público sobre IA avançada vem de ambos os lados sustentando suposições que nunca realmente compartilham. 

A proposta de interruptor de emergência de Buterin para todas as aplicações de IA foi recebida com críticas, enquanto a comunidade tecnológica se engaja em mais um debate sobre quão rápido a IA progredirá e o que isso significa para a força de trabalho. 

O que está impulsionando o debate sobre IA? 

Em um post no X, o co-fundador do Ethereum, Vitalik Buterin, disse que o confronto entre os defensores do cenário "IA 2040" e seus críticos se resume a quão rápida e significativa será a progressão da IA. 

A estruturação da IA 2040 assume que algum tipo de superinteligência aparecerá até 2040, a menos que medidas fortes a impeçam. Enquanto isso, os críticos acreditam que os defensores da IA 2040 estão subestimando a capacidade de coordenação humana e ameaçando a liberdade, mas não veem a superinteligência em si como um risco de concentração de poder.

Buterin admitiu que não sabe qual cenário está mais próximo da realidade. "Se eu estivesse confiante de que a IA (no estilo atual) é uma tecnologia normal, eu estaria no campo dos detratores. Se eu estivesse confiante de que a superinteligência está chegando em 2030 por padrão, eu estaria mais próximo do campo da IA 2040", escreveu ele. 

Mas o co-fundador permanece aberto a desacelerar ou pausar o desenvolvimento da IA se os riscos se tornarem significativos.

O debate atraiu o pesquisador de IA Yann LeCun, o autor Daniel Jeffries e o analista de políticas Adam Thierer. 

Yann LeCun, cientista-chefe de IA da Meta (NASDAQ: META), argumenta que a segurança da IA é fundamentalmente um problema de engenharia que pode ser resolvido por meio de um design iterativo cuidadoso, assim como os motores a jato foram tornados confiáveis. 

LeCun observou que "levou 50 anos" para tornar as aeronaves verdadeiramente seguras, e que o medo da IA é prematuro quando ainda não criamos um sistema capaz de inteligência de nível humano. Ele argumentou consistentemente que os grandes modelos de linguagem são "máquinas de autocompletar" limitadas que carecem de raciocínio e compreensão causal. 

Harry Hawk, postando como @hhawk, disse que se alinha com Yann LeCun e acredita que os futuros sistemas de IA seriam projetados para segurança como as aeronaves. Ele também disse que não acredita que a IA e os robôs farão tudo, não deixando trabalho ou empregos.

Buterin respondeu que essa perspectiva nega a existência de uma "IA tão poderosa que a própria IA pode realizar qualquer tarefa", que ele chama de ASI.

Como os sistemas de IA poderosos podem ser controlados?

Buterin sugeriu um "plano A", que propõe uma regra abrangente que obriga todos a serem abertos sobre o que estão construindo, além de um interruptor de emergência que pode desacelerar ou parar o treinamento de grandes IAs se as coisas ficarem perigosas.

Ele acrescentou que os "intelectuais ingênuos e bem-intencionados" que acham que podem escolher quais usos da IA são aceitáveis e quais não, se oporão a este plano. 

Romeo Dean, que provocou parte do thread de Buterin, chamou a abordagem "bastante razoável", mas disse que seus gatilhos chegariam tarde demais sob sua visão de mundo. Ele acrescentou que não compreende os "enormes pontos negativos" que os críticos atribuem ao plano A.

Buterin admitiu que não há solução perfeita. "Não vejo nenhum plano para lidar com uma transição de ASI que não seja ingênuo", escreveu ele. "Talvez a humanidade esteja presa com uma escolha entre ingênuo e ingênuo ao quadrado."

O relatório IA 2040: Plano A veio do Projeto Futuros da IA de Daniel Kokotajlo, ex-funcionário da OpenAI. 

O relatório diz que os EUA e China devem trabalhar juntos para adiar a superinteligência até 2040. Ambos os países teriam que compartilhar toda a sua pesquisa abertamente. Ele também inclui um sistema baseado na lógica da guerra nuclear, onde ambos os lados podem destruir o poder de computação um do outro, se necessário. Eles chamam isso de "destruição computacional mutuamente assegurada."

Richard Ngo, um pesquisador de IA, disse que o relatório está preocupado demais com a chegada da IA em breve. Ele também disse que não pensa o suficiente sobre o quanto de problemas políticos a IA poderia causar dentro de cada país.

Os modelos de código aberto são a solução?

Subjacente a todo o debate está o status dos modelos de código aberto. LeCun escreveu em 9 de julho que o maior risco da IA é a "concentração de poder" em poucas empresas dominantes. Ele também escreveu que "a única solução para a soberania da IA são os modelos fundamentais de código aberto". Sua postagem recebeu mais de 2.900 curtidas e mais de 430 repostagens.

O autor Daniel Jeffries, escrevendo no mesmo dia, disse que os modelos de código aberto sustentam a tecnologia americana e alertou contra "seguranças míopes e falcões" que buscam restringi-lo. 

O analista de políticas Adam Thierer, pesquisador sênior no Instituto R Street e autor de uma submissão proeminente ao Relatório da Força-Tarefa de IA da Câmara dos Representantes, tem alertado que a governança de IA dos EUA está em uma "encruzilhada crítica." 

Ele observou que o Congresso atualmente emprega um processo confuso, aleatório e secreto para revisar a IA. Ele alertou que, se esse sistema informal crescer e o progresso for bloqueado por aprovações especiais, destruirá a IA de código aberto. 

Em vez de regras pesadas, Thierer propõe uma abordagem de "inovação sem permissão", onde as pessoas serão permitidas a construir e lançar a IA livremente. Ele sugere que as leis existentes devem ser usadas para punir danos quando necessário, e também apoia coisas como zonas de teste para nova IA, exigindo que alguns modelos permaneçam abertos e investindo mais dinheiro em pesquisa de IA.