Vitalik alerta que a IA deve empoderar a humanidade, não desampará-la

O co-fundador da Ethereum, Vitalik Buterin, pediu um desenvolvimento cuidadoso da inteligência artificial (IA), afirmando que ela deve ajudar a humanidade a crescer mais forte, em vez de criar sistemas que possam tirar o controle das pessoas.

Buterin escreveu sobre a direção futura que a inteligência artificial está tomando. Em uma série de posts, o co-fundador da Ethereum deixou claro que a IA deve empoderar a humanidade – e não desampará-la.

A IA deve ajudar os humanos, não assumir o controle

Ele alertou que “sistemas de IA mal projetados podem produzir algo que é mais ou menos uma entidade autorreplicante e incontrolável.”

A IA feita da maneira errada está criando novas formas de vida inteligente autorreplicante e independente, escreveu Buterin. “A IA feita da maneira certa são trajes mecha para a mente humana. Se fizermos o primeiro sem o segundo, corremos o risco de desamparo humano permanente. Se fizermos o segundo, uma civilização superinteligente humana em florescimento.”

Ele acredita que a IA deve aumentar o pensamento, a criatividade humanos, etc., algo como um “traje mecha” que aumenta a força do usuário. Isso contrasta com os perigos dos sistemas de IA autônomos sem supervisão humana, de acordo com ele, que podem eventualmente levar à perda de controle sobre a tecnologia que criamos.

Buterin sugere ainda que deve haver o uso de “julgamento humano destilado” como um meio coletivo de melhoria na tomada de decisões. Ele descreveu isso como a criação de sistemas que poderiam imitar processos de tomada de decisão humana de alta qualidade, mas com mais eficiência do que os humanos.

Assim, os humanos poderiam manter o controle enquanto colhem os benefícios das capacidades da IA.

O último pode ser feito no nível coletivo através do julgamento humano destilado, explicou ele; a inteligência humana coletiva pode fornecer orientação para ajudar a IA a amplificar, em vez de substituir, as habilidades humanas.

Os riscos dos sistemas de IA descontrolados

Buterin continua a esclarecer que as ferramentas de IA emergentes – como este software de geração de vídeo em tempo real – têm um exemplo de sistema de IA que realmente empodera, enquanto o “modo de ‘sistema passivo’ como, por exemplo, o modelo de texto para imagem, no qual as influências do usuário são muito mínimas.”

“Prompt e esperar” não funciona dessa maneira, “apontar e ajustar em uma base de tempo real constante,” ele observa, sugerindo uma dinâmica mais íntima e empoderadora entre humanos e IA.

Ele então falou sobre agentes de IA: os programas que realizarão tarefas sem entrada humana. Ele explicou dois tipos: um que faz planejamento de longo prazo e complexo, e a outra ferramenta de IA mais simples, como um chatbot, substituindo as GUIs. Este último, disse ele, “O chatbot substitui as GUIs como a interface para tudo. O último é ótimo!”

Em última análise, Buterin defende o desenvolvimento responsável da IA para empoderar a humanidade. Ele não é a favor de uma corrida descontrolada e sem freios em direção a sistemas autônomos e, em vez disso, vê ferramentas que servem para aprimorar as habilidades humanas. “Se feito da maneira certa,” ele acha, “a IA pode levar a uma civilização superinteligente em florescimento.”