Vitalik alerta que a IA deve empoderar a humanidade, e não o contrário

Vitalik Buterin, cofundador Ethereum , defendeu o desenvolvimento cuidadoso da inteligência artificial (IA), afirmando que ela deve ajudar a humanidade a setron, e não criar sistemas que possam tirar o controle das pessoas.

Buterin escreveu sobre a direção futura que a inteligência artificial está tomando. Em uma série de publicações, o Ethereum cofundador

A IA deve ajudar os humanos, não dominá-los

Ele alertou que “sistemas de IA mal projetados podem produzir algo que seja mais ou menos uma entidade incontrolável e autorreplicante”

Buterin escreveu: “A IA mal aplicada está criando novas formas de vida inteligente,dent autorreplicante. A IA bem aplicada é como exoesqueletos para a mente humana. Se fizermos a primeira sem a segunda, corremos o risco de um desempoderamento humano permanente. Se fizermos a segunda, florescerá uma civilização humana superinteligente.”

Ele acredita que a IA deve aprimorar o pensamento humano, a criatividade e outras habilidades, como uma espécie de "armadura mecânica" que aumenta a força do usuário. Em contrapartida, ele aponta os perigos dos sistemas de IA autônomos sem supervisão humana, que, segundo ele, podem levar à perda de controle sobre a tecnologia que criamos.

Buterin sugere ainda que se utilize o "julgamento humano refinado" como um meio coletivo de aprimoramento na tomada de decisões. Ele descreveu isso como a criação de sistemas capazes de imitar processos de tomada de decisão humana de alta qualidade, mas com desempenho superior ao dos humanos.

Dessa forma, os humanos poderiam manter o controle com os benefícios obtidos a partir das capacidades da IA.

Isso pode ser feito em nível coletivo por meio do julgamento humano refinado, explicou ele; a inteligência humana coletiva pode fornecer orientação para ajudar a IA a amplificar, em vez de substituir, as habilidades humanas.

Os riscos dos sistemas de IA descontrolados

Buterin esclarece ainda que as ferramentas de IA emergentes – como este software de geração de vídeo em tempo real – possuem um exemplo de sistema de IA que de fato capacita, enquanto o “método do 'sistema passivo', como, por exemplo, o modelo de texto para imagem, no qual as influências do usuário são mínimas”

"A abordagem de 'esperar e responder' não funciona dessa forma; o ideal é mirar e ajustar-se a uma base constante em tempo real", acrescenta, sugerindo uma dinâmica mais íntima e fortalecedora entre humanos e IA.

Em seguida, ele falou sobre agentes de IA: os programas que realizarão tarefas sem intervenção humana. Ele explicou dois tipos: um que realiza planejamento complexo a longo prazo e outro mais simples, como um chatbot, que substitui as interfaces gráficas de usuário (GUIs). Sobre este último, ele disse: "O chatbot substitui as GUIs como interface para tudo. Isso é ótimo!"

Em última análise, Buterin defende o desenvolvimento responsável da IA ​​para capacitar a humanidade. Ele não é a favor de uma busca descontrolada e desenfreada por sistemas autônomos e, em vez disso, vê ferramentas que servem para aprimorar as capacidades humanas. "Se feita da maneira correta", acredita ele, "a IA pode levar a uma civilização superinteligente e próspera"