Vitalik advierte que la IA debe empoderar a la humanidad, no despojarla de poder
Sneha Murali
2 min de lectura
- La IA debería hacer a los humanos más fuertes y inteligentes, dijo Vitalik Buterin.
- Una IA descontrolada podría volverse peligrosa.
- La IA debe seguir la orientación humana y ser una ayudante.
El cofundador de Ethereum, Vitalik Buterin, ha instado a un desarrollo cuidadoso de la inteligencia artificial (IA), diciendo que debería ayudar a la humanidad a crecer más fuerte, no crear sistemas que podrían quitarle el control a las personas.
Buterin escribió sobre la dirección futura que está tomando la inteligencia artificial. En una serie de publicaciones, el cofundador de Ethereum dejó claro que la IA debería empoderar a la humanidad, no despojarla de poder.
La IA debe ayudar a los humanos, no tomar el control
Advertió que «los sistemas de IA mal diseñados podrían producir algo que es más o menos una entidad no controlable y autorreplicante».
La IA hecha mal está creando nuevas formas de vida inteligente autorreplicante e independiente, escribió Buterin. «La IA hecha bien es trajes mecha para la mente humana. Si hacemos lo primero sin lo segundo, corremos el riesgo de un despojo permanente del poder humano. Si hacemos lo segundo, una civilización superinteligente humana floreciente».
Cree que la IA debería aumentar el pensamiento, la creatividad humana, etc., algo así como un «traje mecha» que mejora la fuerza del usuario. Esto contrasta con los peligros de los sistemas de IA autónomos sin supervisión humana, según él, que eventualmente podrían llevar a una pérdida de control sobre la tecnología que creamos.
Buterin sugiere además que debería haber el uso de «juicio humano destilado» como un medio colectivo de mejora en la toma de decisiones. Lo describe además como crear sistemas que pudieran imitar procesos de toma de decisiones humanas de alta calidad pero que funcionaran con mayor eficiencia que los humanos.
Así, los humanos podrían mantener el control con los beneficios obtenidos de las capacidades de la IA.
Lo último se puede hacer a nivel colectivo a través del juicio humano destilado, explicó; la inteligencia humana colectiva puede proporcionar orientación para ayudar a la IA a amplificar, en lugar de sustituir, las capacidades humanas.
Los riesgos de los sistemas de IA no controlados
Buterin continúa aclarando que las herramientas de IA emergentes, como este software de generación de video en tiempo real, tienen un ejemplo de sistema de IA que de hecho empodera, mientras que la «manera de 'sistema pasivo' como, por ejemplo, el modelo de texto a imagen, en el que la influencia del usuario es muy mínima».
«No funciona así el prompt y esperar, apunta y ajusta a una base constante en tiempo real», añade, sugiriendo una dinámica más íntima y empoderadora entre humanos e IA.
Luego habló sobre agentes de IA: los programas que realizarán tareas sin entrada humana. Explicó dos tipos: uno que realiza planificación a largo plazo y compleja, y la otra herramienta de IA más simple como un chatbot, reemplazando las GUI. Este último, dijo, «El chatbot reemplaza las GUI como la interfaz para todo. ¡Lo último es genial!»
En última instancia, Buterin aboga por un desarrollo responsable de la IA para empoderar a la humanidad. No está a favor de una carrera descontrolada e incontrolada hacia sistemas autónomos y en su lugar ve herramientas que sirven para mejorar las capacidades humanas. «Si se hace bien», piensa, «la IA puede llevar a una civilización superinteligente floreciente».
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
