Vitalik Buterin aboga por sistemas de IA guiados por humanos para preservar los valores y evitar la centralización del poder

El cofundador de Ether, Vitalik Buterin, ha revelado lo que él llama un plan audaz para una inteligencia artificial (IA) controlada por humanos, enfatizando que tal suceso es necesario para evitar un futuro distópico en el que el poder esté centralizado y la supervivencia de la humanidad esté en juego o sea irrecuperable.

El cofundador tiene diferente. Cree que la IA puede ser más poderosa que los humanos y, por lo tanto, impulsará la evolución y fomentará las mejores prácticas de innovación en diversos sectores.

Pero Buterin aún teme que, si las IA se vuelven demasiado autónomas, podrían empezar a generar graves conflictos con los intereses humanos. Como fuerza liberada involuntariamente, la inteligencia artificial podría dar saltos rápidos que podrían acabar con la vida humana.

La inteligencia artificial avanza rápidamente y se marca sus propios objetivos. Al hacerlo, puede crear una sociedad que aterroriza a algunos, pero funciona bien para otros. En la historia de la evolución, este patrón es familiar y, a menudo, trágico.

Aunque parezca lejano en los debates legislativos actuales, este futuro se hace plausible gracias a las encuestas que ofrecen una probabilidad considerable de riesgo existencial derivado de la IA. Estos hallazgos subrayan la importancia de establecer estructuras que guíen el desarrollo de la IA de forma sensata.

La IA permite a la humanidad lograr grandes hazañas intelectuales

Buterin considera la IA como una herramienta que puede empoderar a los seres humanos y lograr grandes logros intelectuales y prácticos. Este enfoque contribuye a profundizar la colaboración de la IA con los seres humanos y considera la tecnología como una extensión de la acción humana.

En este contexto, las interfaces cerebro-computadora (ICC) se han convertido en un enfoque con potenciales beneficios. Las ICC proporcionan un conjunto de comunicaciones neuronales directas entre humanos e inteligencia artificial, reduciendo la anticipación entre los intercambios entre humanos e IA de segundos a milisegundos.

Estos avances podrían garantizar que las decisiones humanas permanezcan bajo control, que la tecnología sirva a las personas de manera significativa y que los sistemas automatizados nunca operen más allá de la autoridad humana. Esta separación se ve reforzada por las BCI, que protegerán la autonomía a medida que los sistemas inteligentes se integren más con la cognición humana.

Buterin también destaca la presencia de un crucial "juicio humano destilado" en relación con los sistemas de IA en la toma de decisiones. Se trata de la idea de dirigir el comportamiento de la IA activando la sabiduría colectiva y proporcionando posibles aportaciones morales que podrían guiar el comportamiento de las máquinas. También es fundamental que los desarrolladores incorporen el juicio humano en los sistemas de IA para que las tecnologías reflejen con mayor precisión las normas y expectativas sociales.

Descentralización de la IA para protegerse contra la concentración de poder

El argumento de Buterin también se centra en la descentralización del desarrollo y el control de la IA. Advierte sobre situaciones en las que las tecnologías de IA se convierten en monopolio de unos pocos grandes agentes que llegan a controlar la extrema centralización del poder. Como resultado, el poder para moldear el desarrollo de la IA podría recaer en manos de unos pocos individuos, posiblemente en detrimento de la sociedad en su conjunto.

Las cadenas de bloques y las pruebas de conocimiento cero son ejemplos de tecnologías facilitadoras que ayudan a hacer de la descentralización una realidad, lo que puede ser un enfoque para un desarrollo de IA más equitativo entre las comunidades.

Esto democratiza la investigación en IA, limita cómo se acumula el poder y garantiza que la IA sea un bien colectivo, no específico.

Buterin afirma específicamente que el aceleracionismo descentralizado consiste en el rápido desarrollo de tecnologías para defender la autonomía individual frente al control centralizado. Se centra en aumentar las capacidades defensivas para contrarrestar el dominio potencial de lostronIA . Para ello, el desarrollo de tecnologías protectoras debería preceder a una sociedad alineada.

Con su amplio alcance y su tendencia universal al pensamiento basado en soluciones, Buterindentla necesidad de un posible cambio de rumbo en la trayectoria de la tecnología. Ahora, insta a todas las partes interesadas —desde investigadores y legisladores hasta el público en general— a colaborar proactivamente para moldear la trayectoria de la IA.

En referencia a la regulación y gobernanza del desarrollo tecnológico, el núcleo de estas prioridades es la necesidad de pautas éticas y marcos regulatorios en torno a la IA.