Hassabis pide a EE. UU. liderar un regulador global de IA antes de fin de año
- El CEO de Google DeepMind, Demis Hassabis, quiere un organismo regulador estadounidense al estilo de la FINRA que evalúe los modelos potentes de IA y detenga su desarrollo si aumentan los riesgos.
- Su plan consiste en que los laboratorios líderes sometan voluntariamente sus modelos a pruebas de ciberseguridad, biológicas y de engaño 30 días antes de su lanzamiento.
- Hassabis advierte que podrían surgir graves riesgos biológicos y nucleares en un plazo de 18 meses.
Demis Hassabis, cofundador y CEO de Google DeepMind, quiere que el gobierno de EE. UU. establezca un nuevo organismo de vigilancia encargado de filtrar los modelos de IA más poderosos del mundo. El organismo también tendrá el poder de ordenar a la industria reducir la velocidad si el peligro aumenta.
Detalló esto en su manifiesto, que se publicó el 14 de julio, y dijo que quiere que el organismo esté funcionando antes de fin de año.
Hassabis es una de las voces líderes en el espacio de la IA. Compartió el Premio Nobel de Química de 2024 por su trabajo en el plegamiento de proteínas y dirige el laboratorio detrás de Gemini.
En una entrevista, declaró que la industria ha alcanzado el punto donde la supervisión de la IA debe ser sistemática, financiada por los propios laboratorios, personalizadas con expertos técnicos y responsable ante el gobierno de EE. UU.
¿Qué hará el organismo de vigilancia de IA de EE. UU.?
Hassabis está modelando el organismo en la FINRA, el regulador privado financiado por la industria que vigila a los corredores de Wall Street bajo la autoridad de la Comisión de Bolsa y Valores.
En su plan, los laboratorios de vanguardia entregarían primero sus modelos voluntariamente, hasta 30 días antes del lanzamiento, para que el organismo pudiera probarlos en busca de ciberamenazas peligrosas, capacidades biológicas y de «engaño».
Afirmó que una vez que esas pruebas demuestren ser fiables, las normas formales «podrían seguir rápidamente», lo que significa que un modelo tendría que superarlas antes de poder ser desplegado en el mercado estadounidense.
Las normas se aplicarían a todos los sistemas de clase fronteriza, y Hassabis añadió que «independientemente de su país de origen o de si son abiertos o cerrados», con los puntos de referencia actualizados a medida que avanza la tecnología.
También quiere que la junta sea mayoritariamente independiente, compuesta por ganadores del Premio Turing y otros investigadores acreditados, junto con asientos para la industria, el gobierno y los desarrolladores de código abierto. Afirmó que la etiqueta de «frontera» se convertiría en un sello de estatus, añadiendo: «Creo que es un activo de prestigio bastante agradable de tener».
¿Por qué Hassabis pide ahora un organismo de vigilancia de la IA?
Hassabis dice que los ciberatactes impulsados por la IA de hoy en día son «disparos de advertencia». Según él, en un plazo de 18 meses, riesgos biológicos y nucleares más graves podrían encontrarse dentro de modelos de código abierto que ningún gobierno pueda retirar. Añadió que la amenaza no se limita a los sistemas abiertos y que los futuros modelos propietarios de los propios laboratorios tendrán los mismos peligros.
Dijo que quiere que el organismo de vigilancia esté operativo en cuestión de meses y ha pasado las últimas semanas informando a la administración Trump, a los líderes de laboratorios rivales y a funcionarios europeos antes de hacerlo público. «Las señales que he estado recibiendo son muy positivas», dijo sobre las conversaciones con la Casa Blanca.
Esa administración había favorecido un enfoque de no intervención hasta el mes pasado, cuando colocó los modelos Mythos y Fable de Anthropic bajo un orden de control de exportaciones, limitando su acceso. La orden fue posteriormente retirada, con Anthropic liberando los modelos con más controles sobre ellos.
OpenAI, por otro lado, acordó limitar GPT-5.6 a socios aprobados por el gobierno antes de lanzarlo públicamente la semana pasada después de pruebas con el Departamento de Comercio, un movimiento que se vio como un intento de evitar el mismo resultado que el de Anthropic.
Hassabis dice que el incidente es «un poco una llamada de atención».
Un raro punto de acuerdo
El CEO de Anthropic, Dario Amodei, también opina que debería haber una agencia con poder para contener los modelos de IA inseguros, pidiendo normas vinculantes y una agencia al estilo de la FAA.
La posición de Amodei está en acuerdo con la de Hassabis; sin embargo, este último favorece la estructura más ligera y gestionada por la industria de FINRA.
Cabe destacar la creencia de Hassabis de que las apuestas están aumentando rápidamente. Ha dicho que la AGI, un sistema que coincide con toda la gama de capacidades cognitivas humanas, está «probablemente a solo unos pocos años de distancia», y en un evento de Stanford, situó la llegada cerca de 2030, «más o menos un año». En el manifiesto, escribió que los investigadores han «encontrado una manera de hacer que la arena piense», calificándolo de «milagroso».
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Preguntas frecuentes
¿Qué propone Demis Hassabis?
Propone un organismo estadounidense de estándares de IA, inspirado en el regulador financiero FINRA, que evaluaría los modelos más avanzados del mundo en busca de capacidades peligrosas relacionadas con ciberseguridad, biología y engaño, y podría coordinar una desaceleración del sector si las amenazas se intensifican.
¿Cuándo quiere Hassabis que esté operativo el organismo regulador de IA?
Dijo a Axios que desea que el organismo funcione en un plazo de "meses", idealmente antes de finales de 2026, y señaló que sus conversaciones con la administración Trump han recibido señales positivas.
¿Están de acuerdo otros laboratorios de IA con Hassabis?
Los principales líderes de laboratorios coinciden en que Washington debe regular la IA de vanguardia, pero difieren sobre la estructura. El CEO de Anthropic, Dario Amodei, ha abocado por una agencia al estilo de la FAA con poder vinculante para bloquear modelos inseguros, mientras que Hassabis prefiere un organismo más ligero, financiado por la industria y bajo supervisión gubernamental.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en la redacción de blogs y la cobertura de eventos en el ámbito de las criptomonedas. En Cryptopolitan, Hannah contribuye a la página de noticias, informando y analizando los últimos avances en DeFi, RWA, regulación de criptomonedas, inteligencia artificial y tecnologías de vanguardia. Se graduó de la Universidad de Arcadia con una licenciatura en Administración de Empresas.
