Vitalik Buterin defende sistemas de IA guiados por humanos para preservar valores e evitar a centralização do poder

Vitalik Buterin, cofundador da Ether, revelou o que ele chama de um plano ousado para uma inteligência artificial (IA) controlada por humanos, enfatizando que tal ocorrência é necessária para evitar um futuro distópico no qual o poder é centralizado e a sobrevivência da humanidade está em risco ou é irrecuperável.

O cofundador enxerga as capacidades da IA ​​de forma diferente. Ele acredita que a IA pode ser mais poderosa que os humanos e, portanto, impulsionará a evolução e trará à tona as melhores práticas de inovação em diversos setores.

Mas Buterin ainda teme que, se as IAs se tornarem muito autônomas, possam começar a gerar sérios conflitos com os interesses humanos. Como uma força liberada involuntariamente, a inteligência artificial poderia dar saltos rápidos que poderiam levar ao fim da vida humana.

A inteligência artificial está avançando tão rapidamente e definindo seus próprios objetivos. Ao fazer isso, pode criar uma sociedade que aterrorize alguns, mas funcione bem para outros. Na história da evolução, esse padrão é familiar e frequentemente trágico.

Por mais distante que possa parecer nos debates legislativos atuais, esse futuro torna-se plausível graças a pesquisas que indicam uma probabilidade considerável de risco existencial decorrente da IA. Essas descobertas ressaltam a importância crucial de se estabelecerem estruturas que possam orientar o desenvolvimento da IA ​​de forma sensata.

A inteligência artificial capacita a humanidade a alcançar grandes feitos intelectuais

Buterin vê a IA como uma ferramenta capaz de empoderar indivíduos e realizar grandes feitos intelectuais e práticos. Essa abordagem contribui para aprofundar a colaboração entre IA e humanos, considerando a tecnologia como uma extensão da capacidade humana.

Sendo assim, as interfaces cérebro-computador (BCIs) surgiram como uma abordagem com benefícios potenciais. As BCIs proporcionam uma comunicação neural direta entre humanos e inteligência artificial, reduzindo o tempo de resposta entre as interações humanas e de segundos para milissegundos.

Esses avanços podem garantir que as decisões humanas permaneçam no controle, que a tecnologia sirva às pessoas de maneira significativa e que os sistemas automatizados nunca operem além da autoridade humana. Essa separação está sendo reforçada pelas Interfaces Cérebro-Computador (BCIs), que salvaguardarão a autonomia à medida que os sistemas inteligentes se tornarem mais integrados à cognição humana.

Buterin destaca, de forma semelhante, a presença de um "julgamento humano refinado" crucial em relação aos sistemas de IA na tomada de decisões. Trata-se da ideia de direcionar o comportamento da IA ​​ativando a sabedoria coletiva e fornecendo possíveis contribuições morais que possam orientar o comportamento da máquina. É também fundamental que os desenvolvedores incorporem o julgamento humano aos sistemas de IA para que as tecnologias reflitam mais fielmente as normas e expectativas da sociedade.

Descentralização da IA ​​para evitar a concentração de poder

O argumento de Buterin também se baseia na descentralização do desenvolvimento e controle da IA. Ele alerta para situações em que as tecnologias de IA se tornam monopólio de poucos grandes agentes que passam a controlar a extrema centralização do poder. Como resultado, o poder de moldar o desenvolvimento da IA ​​poderia efetivamente ficar nas mãos de apenas alguns indivíduos, possivelmente em detrimento da sociedade como um todo.

Blockchains e provas de conhecimento zero são exemplos de tecnologias habilitadoras que ajudam a tornar a descentralização uma realidade, o que pode ser uma abordagem para um desenvolvimento de IA mais equitativo entre as comunidades.

Isso democratiza a pesquisa em IA, limita a forma como o poder se acumula e garante que a IA seja um bem coletivo, e não um bem específico.

Buterin afirma especificamente que o Aceleracionismo descentralizado é o rápido desenvolvimento de tecnologias para defender a autonomia individual contra o controle centralizado. Ele se concentra em ampliar as capacidades defensivas para acompanhar o potencial domínio detronNesse sistemas de IA robustos. , o desenvolvimento de tecnologias de proteção deve preceder uma sociedade alinhada.

Com seu amplo alcance e tendência universal para o pensamento orientado a soluções, Buterindenta necessidade de uma possível correção de rumo na trajetória da tecnologia. Agora, ele convoca todas as partes interessadas — de pesquisadores e formuladores de políticas ao público em geral — a trabalharem proativamente juntos para moldar a trajetória da IA.

No que diz respeito à regulamentação e governança do desenvolvimento tecnológico, o cerne dessas prioridades reside na necessidade de diretrizes éticas e estruturas regulatórias em torno da IA.