Vitalik Buterin defende sistemas de IA guiados por humanos para preservar valores e prevenir a centralização de poder

O co-fundador do Ether, Vitalik Buterin, revelou o que chama de um plano audacioso para uma inteligência artificial (IA) controlada por humanos, enfatizando que tal ocorrência é necessária para evitar um futuro distópico em que o poder se centraliza e a sobrevivência da humanidade está em risco ou é irrecuperável.

O co-fundador vê as capacidades da IA diferentemente. Acredita que a IA pode ser mais poderosa do que os humanos e, portanto, impulsionará a evolução e trará as melhores práticas de inovação em várias indústrias.

Mas Buterin ainda teme que, se as IAs se tornarem demasiado autónomas, possam começar a gerar conflitos sérios com os interesses humanos. Como uma força lançada acidentalmente, a inteligência artificial poderia dar saltos rápidos que poderiam pôr fim à vida humana.

A inteligência artificial está a avançar tão rapidamente agora e está a definir os seus próprios objetivos. Ao fazê-lo, pode criar uma sociedade que aterroriza alguns, mas funciona bem para outros. Na história da evolução, este padrão é familiar e muitas vezes trágico.

Por mais distante que pareça nos debates legislativos atuais, este futuro é tornado plausível por pesquisas que oferecem uma chance não trivial de risco existencial das IAs. Estas descobertas sublinham que é crucial estabelecer estruturas que possam orientar o desenvolvimento da IA de forma sensata.

A IA capacita a humanidade a alcançar grandes feitos intelectuais

Buterin vê a IA como uma ferramenta que pode capacitar os humanos individuais e realizar grandes feitos intelectuais e práticos. Tal abordagem ajuda a aprofundar a colaboração da IA com os humanos e considera a tecnologia como uma extensão da agência humana.

Nesse sentido, as interfaces cérebro-computador (BCI) tornaram-se uma abordagem com benefícios potenciais. As BCI fornecem uma camada de comunicação neural direta entre humanos e inteligência artificial, diminuindo a antecipação entre as trocas humanas e da IA de segundos para milissegundos.

Estes avanços poderiam garantir que as decisões humanas permaneçam sob controlo, que a tecnologia sirva as pessoas de formas significativas e que os sistemas automatizados nunca operem além da autoridade humana. Esta separação está a ser reforçada pelas BCI, que salvaguardarão a autonomia à medida que os sistemas inteligentes se tornam mais integrados com a cognição humana.

Buterin destaca igualmente a presença de algum 'julgamento humano destilado' crucial relativamente aos sistemas de IA na tomada de decisões. Esta é a ideia de orientar o comportamento da IA ativando a sabedoria das multidões e fornecendo possíveis entradas morais que possam orientar o comportamento da máquina. É também crucial que os programadores insiram o julgamento humano nos sistemas de IA para que as tecnologias reflitam mais de perto as normas e expectativas sociais.

Descentralização da IA para proteger contra a concentração de poder

O argumento de Buterin também depende da descentralização do desenvolvimento e controlo da IA. Ele alerta para situações em que as tecnologias de IA se tornem o monopólio de alguns grandes agentes que passam a controlar a extrema centralização de poder. Como resultado, o poder de moldar o desenvolvimento da IA poderia efetivamente ficar nas mãos de apenas algumas pessoas, possivelmente em detrimento da sociedade em geral.

As blockchains e as provas de conhecimento zero são exemplos de tecnologias habilitadoras que ajudam a tornar a descentralização uma realidade, o que pode ser uma abordagem para um desenvolvimento de IA mais equitativo entre as comunidades.

Isto democratiza a investigação em IA, limita a forma como o poder é acumulado e garante que a IA é um bem coletivo, e não específico.

Buterin afirma especificamente que o Aceleracionismo Descentralizado é o desenvolvimento rápido de tecnologias para defender a autonomia individual contra o controlo centralizado. Foca-se em aumentar as capacidades defensivas para acompanhar o potencial domínio de fortes sistemas de IA. Ao fazê-lo, o desenvolvimento de tecnologias de proteção deve preceder uma sociedade alinhada.

Com o seu alcance abrangente e a sua tendência universal para o pensamento baseado em soluções, Buterin identifica a necessidade de uma possível correção de curso na trajetória da tecnologia. Agora, ele convida todas as partes interessadas — desde investigadores e formuladores de políticas até ao público em geral — a trabalhar proativamente em conjunto para moldar a trajetória da IA.

Referindo-se à regulação e governação do desenvolvimento tecnológico, o cerne destas prioridades é a necessidade de diretrizes éticas e quadros regulamentares em torno da IA.