Vitalik Buterin dice que la lucha por los trabajos de IA depende de lo que la gente significa por superinteligencia

El cofundador de Ethereum, Vitalik Buterin, argumenta que gran parte del debate público sobre la IA avanzada proviene de ambos lados sosteniendo suposiciones que nunca comparten realmente. 

La propuesta de interruptor de emergencia de Buterin para todas las aplicaciones de IA ha sido recibida con críticas mientras la comunidad tecnológica participa en otro debate sobre qué tan rápido progresará la IA y qué significa eso para la fuerza laboral. 

¿Qué está impulsando el debate sobre la IA? 

En un post en X, el cofundador de Ethereum, Vitalik Buterin, dijo que el choque entre los partidarios del escenario «AI 2040» y sus críticos se reduce a qué tan rápido y significativo será el progreso de la IA. 

El marco AI 2040 asume que algún tipo de superinteligencia aparecerá para 2040 a menos que se tomen medidas fuertes para detenerlo. Mientras tanto, los críticos creen que los partidarios de AI 2040 están subestimando la capacidad de coordinación humana y amenazando la libertad, pero no ven la superinteligencia en sí misma como un riesgo de concentración de poder.

Buterin admitió que no sabe cuál escenario está más cerca de la realidad. «Si estuviera seguro de que la IA (de estilo actual) es una tecnología normal, estaría en el campo de los detractores. Si estuviera seguro de que la superinteligencia está llegando por defecto en 2030, estaría más cerca del campo AI 2040», escribió. 

Pero el cofundador sigue siendo abierto a ralentizar o pausar el desarrollo de la IA si los riesgos se vuelven significativos.

El debate atrajo al investigador de IA Yann LeCun, al autor Daniel Jeffries y al analista de políticas Adam Thierer. 

Yann LeCun, científico jefe de IA de Meta (NASDAQ: META), argumenta que la seguridad de la IA es fundamentalmente un problema de ingeniería que puede resolverse mediante un diseño iterativo cuidadoso, al igual que los motores a reacción se hicieron confiables. 

LeCun señaló que «tomó 50 años» hacer que la aviación fuera verdaderamente segura, y que el miedo a la IA es prematuro cuando aún no hemos creado un sistema capaz de inteligencia a nivel humano. Ha argumentado consistentemente que los modelos de lenguaje grandes son máquinas de «autocompletado» limitadas que carecen de razonamiento y comprensión causal. 

Harry Hawk, publicando como @hhawk, dijo que se alinea con Yann LeCun y cree que los futuros sistemas de IA serían diseñados para la seguridad como lo son las aeronaves. También dijo que no cree que la IA y los robots hagan todo, dejando sin trabajo ni empleos.

Buterin respondió que esa perspectiva negaba la existencia de una «IA tan poderosa que la IA por sí sola puede realizar cualquier tarea», a la que llama ASI.

¿Cómo pueden controlarse los sistemas de IA poderosos?

Buterin sugirió un «plan A», que propone una regla de amplio alcance que obliga a todos a ser abiertos sobre lo que están construyendo, además de un interruptor de emergencia que pueda ralentizar o detener el entrenamiento de IA grande si las cosas se vuelven peligrosas.

Añadió que los «intelectuales ingenuos y bienintencionados» que creen que pueden elegir qué usos de la IA están bien y cuáles no se opondrán a este plan. 

Romeo Dean, quien impulsó parte del hilo de Buterin, llamó al enfoque «bastado razonable» pero dijo que sus desencadenantes llegarían demasiado tarde bajo su visión del mundo. Añadió que no comprende los «enormes inconvenientes» que los críticos adjuntan al plan A.

Buterin admitió que no hay una solución perfecta. «Veo cero planes sobre cómo lidiar con una transición de ASI que no sean ingenuos», escribió. «Quizás la humanidad esté atascada con una elección entre ingenuo e ingenuo al cuadrado».

El informe AI 2040: Plan A provenía del Proyecto Futuros de IA de Daniel Kokotajlo, ex empleado de OpenAI. 

El informe dice que EE. UU. y China deberían trabajar juntos para retrasar la superinteligencia hasta 2040. Ambos países tendrían que compartir toda su investigación abiertamente. También incluye un sistema basado en la lógica de la guerra nuclear, donde ambos lados pueden destruir el poder informático del otro si es necesario. Lo llaman «destrucción informática mutuamente asegurada».

Richard Ngo, un investigador de IA, dijo que el informe está demasiado preocupado por la llegada temprana de la IA. También dijo que no piensa lo suficiente en cuántos problemas políticos podría causar la IA dentro de cada país.

¿Son los modelos de código abierto la solución?

Subyacente a todo el debate está el estatus de los modelos de código abierto. LeCun escribió el 9 de julio que el mayor riesgo de la IA es la «concentración de poder» en pocas empresas dominantes. También escribió que «la única solución para la soberanía de la IA son los modelos fundamentales de código abierto». Su publicación recibió más de 2.900 me gusta y más de 430 republicaciones.

El autor Daniel Jeffries, escribiendo el mismo día, dijo que los modelos de código abierto sustentan la tecnología estadounidense y advirtió contra «seguristas y halcones de corta vista» que buscan restringirlo. 

El analista de políticas Adam Thierer, investigador sénior en el Instituto R Street y autor de una presentación destacada del informe del Grupo de Trabajo de IA de la Cámara de Representantes, ha advertido que la gobernanza de la IA de EE. UU. está en una «encrucijada crítica». 

Señaló que el Congreso actualmente emplea un proceso desordenado, aleatorio y secreto para revisar la IA. Advirtió que si este sistema informal crece y el progreso se bloquea detrás de aprobaciones especiales, destruirá la IA de código abierto. 

En lugar de reglas pesadas, Thierer propone un enfoque de «innovación sin permiso», donde se permitirá a las personas construir y lanzar IA libremente. Sugiere que las leyes existentes deben usarse para castigar el daño cuando sea necesario, y también apoya cosas como zonas de prueba para nueva IA, requiriendo que algunos modelos permanezcan abiertos y destinando más dinero a la investigación de IA.