Vitalik advierte que la IA debe empoderar a la humanidad, no desempoderarla

El cofundador Ethereum Vitalik Buterin, ha instado a un desarrollo cuidadoso de la inteligencia artificial (IA), diciendo que debería ayudar a la humanidad a crecer mástron, no a crear sistemas que puedan quitarle el control a las personas.

Buterin escribió sobre la dirección que está tomando la inteligencia artificial en el futuro. En una serie de publicaciones, el Ethereum cofundador

La IA debería ayudar a los humanos, no apoderarse de ellos

Advirtió que “los sistemas de IA mal diseñados podrían producir algo que sea más o menos una entidad no controlable y autorreplicante”

La IA mal utilizada está creando nuevas formas de vida inteligente, autorreplicantedent , escribió Buterin. «La IA bien utilizada consiste en usar trajes mecánicos para la mente humana. Si implementamos lo primero sin lo segundo, nos arriesgamos a una pérdida permanente de poder humano. Si implementamos lo segundo, a una civilización humana superinteligente floreciente»

Cree que la IA debería potenciar el pensamiento humano, la creatividad, etc., como un "traje mecánico" que aumenta la fuerza del usuario. Esto contrasta con los peligros de los sistemas de IA autónomos sin supervisión humana, según él, que podrían eventualmente llevar a una pérdida de control sobre la tecnología que creamos.

Buterin sugiere además que se debería utilizar el "juicio humano destilado" como medio colectivo para mejorar la toma de decisiones. Describió esto como la creación de sistemas que pudieran imitar procesos de toma de decisiones humanos de alta calidad, pero con un rendimiento más eficiente que el de los humanos.

De esta forma, los humanos podrían mantener el control gracias a los beneficios obtenidos de las capacidades de la IA.

Esto último se puede hacer a nivel colectivo a través del juicio humano destilado, explicó; la inteligencia humana colectiva puede proporcionar orientación para ayudar a la IA a amplificar, en lugar de sustituir, las capacidades humanas.

Los riesgos de los sistemas de IA no controlados

Buterin continúa aclarando que las herramientas de IA emergentes, como este software de generación de video en tiempo real, tienen un sistema de IA de ejemplo que realmente empodera, mientras que la "forma de 'sistema pasivo' como, por ejemplo, el modelo de texto a imagen, en el que las influencias del usuario son mínimas"

“Especificar y esperar no funciona de esa manera: hay que apuntar y ajustarse a una base de tiempo real constante”, añade, sugiriendo una dinámica más íntima y empoderadora entre los humanos y la IA.

Luego habló sobre los agentes de IA: los programas que realizan tareas sin intervención humana. Explicó dos tipos: uno que realiza una planificación compleja a largo plazo, y otro, una herramienta de IA más sencilla, como un chatbot, que reemplaza las interfaces gráficas de usuario (GUI). Este último, dijo, «El chatbot reemplaza las GUI como interfaz para todo. ¡Esto último es genial!»

En definitiva, Buterin aboga por un desarrollo responsable de la IA para empoderar a la humanidad. No está a favor de un impulso descontrolado y desenfrenado hacia los sistemas autónomos; en cambio, ve herramientas que sirvan para mejorar las capacidades humanas. «Si se hace bien», opina, «la IA puede conducir a una civilización superinteligente floreciente»