El Rey Carlos advierte sobre el control de la IA antes de que desarrolle ‘capacidades más oscuras’ para quitar la vida
Foto de Arlington National Cemetery en Flickr.
- El rey Carlos III reunió a líderes de inteligencia artificial de Nvidia, OpenAI, Anthropic y Google DeepMind y les advirtió que deben desarrollar «medios suficientes de control» para la IA.
- El rey Carlos citó riesgos existenciales si la IA cae en manos equivocadas.
- Los ejecutivos escucharon, pero no hicieron compromisos públicos.
Durante una cumbre organizada en Escocia, el Rey Carlos III dijo a los jefes de las mayores empresas de IA del mundo que deben encontrar formas de mantener la tecnología bajo control humano.
El Rey advirtió que las personas que la construyeron ahora temen que pueda desarrollar “capacidades más oscuras” e incluso ser utilizada para matar.
¿Qué dice el Rey Carlos III sobre la IA?
El Rey Carlos III habló en Dumfries House en East Ayrshire, una reunión organizada por la Fundación Ditchley que reunió a unos 30 ejecutivos, funcionarios e investigadores, incluido el ministro de IA de Gran Bretaña, Kanishka Narayan, el director ejecutivo de Nvidia, Jensen Huang, el cofundador de DeepMind, Demis Hassabis, la directora financiera de OpenAI, Sarah Friar, y el jefe de asuntos globales de Anthropic, Tino Cuéllar.
La lista privada de invitados vista por Bloomberg reportedly también contenía nombres como el jefe del MI6, Blaise Metreweli, el autor Yuval Noah Harari y Xue Lan de la Universidad de Tsinghua.
Charles, de 77 años, habló durante solo unos 20 minutos antes de salir de la sala para lo que esperaba que fueran conversaciones productivas. Aquellos que valoran el núcleo moral de la humanidad, dijo, están “buscando ansiosamente su garantía de que no perderemos el control de nuestro destino, o de nuestras almas.”
Charles calificó el ritmo de la tecnología como “a la vez intrigante y profundamente preocupante por igual”. Reconoció y elogió su historial en medicina y ciencias de la vida, antes de plantear una pregunta directa: “¿Seguramente, necesitamos medios suficientes de control antes de que sea demasiado tarde?”
El Rey hizo referencia a las preocupaciones de los creadores de la tecnología de IA en su advertencia. También dijo que los sistemas corren el riesgo de “desarrollar capacidades más oscuras, quizás incluso para quitar la vida”. Él añadió que los ejecutivos deberían considerar los “peligros existenciales” de que las herramientas caigan en manos equivocadas.
Charles anteriormente envió un mensaje de video a la Cumbre de Seguridad de la IA de 2023 del Reino Unido en Bletchley Park, expresando sentimientos similares.
El asesor de la IA del Vaticano, Paolo Benanti, estuvo presente en la Cumbre, y el Papa León XIV escribió en una encíclica de mayo que la IA no debe permanecer en manos “de unos pocos.”
¿Se frenará el desarrollo de la IA?
Hassabis dijo a los delegados que la inteligencia general artificial, sistemas que podrían igualar o superar a los humanos en muchas tareas, estaba “probablemente a solo unos pocos años de distancia.”
Dijo que la tecnología podría tener un impacto potencial diez veces mayor que la Revolución Industrial. Las probabilidades de que algo salga mal, añadió, eran “definitivamente distintas de cero”, aunque siguió diciendo que “el futuro aún no está escrito.”
Friar dijo que el creciente poder de la tecnología planteaba preguntas sobre mantenerla al servicio de las personas, y que “ninguna empresa o gobierno puede hacer eso solo.”
Huang, cuya Nvidia está valorada cerca de los 5,15 billones de dólares, dijo a la sala que la seguridad era primordial y que un producto debería retrasarse si no estaba listo. Abogó por regular los productos de IA en lugar de la tecnología en sí y defendió los modelos abiertos como una forma de evitar que los países más pequeños y los investigadores queden excluidos.
La cumbre llega después de una publicación viral de renuncia por parte del investigador de Anthropic, Jacob Coxon, y una predicción de su colega, Evan Hubinger, de que la IA tiene un 10 % de probabilidades de causar la extinción humana, lo que generó preocupaciones.
Cryptopolitan ha informado de que Dario Amodei de Anthropic publicó un ensayo instando a los laboratorios a “ritmar la frontera”, y que OpenAI esta semana lanzó un sistema que revelaría la mala conducta del modelo después de registrar seis incidentes de comportamiento preocupante.
Sin embargo, no todos están de acuerdo en que el peligro sea real: el presidente Donald Trump ha calificado estos temores de “engaño.”
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Preguntas frecuentes
¿Qué dijo el rey Carlos en la cumbre sobre IA?
Advirtió que los propios creadores de la IA temen que esta pueda desarrollar «capacidades más oscuras, quizás incluso para quitar vidas», y preguntó si la industria necesitaba «medios suficientes de control antes de que sea demasiado tarde», al tiempo que calificaba el ritmo de la tecnología como «tanto intrigante como profundamente preocupante».
¿Quiénes asistieron a la cumbre en Dumfries House?
Entre los asistentes se encontraban el CEO de Nvidia, Jensen Huang; el cofundador de DeepMind, Demis Hassabis; la directora financiera de OpenAI, Sarah Friar; el jefe de asuntos globales de Anthropic, Tino Cuéllar; el ministro británico de IA, Kanishka Narayan; y el asesor de la Santa Sede sobre IA, Paolo Benanti, entre unas 30 personas organizadas por la Fundación Ditchley.
¿Las empresas de IA acordaron nuevas normas de seguridad?
No. Los ejecutivos no se comprometieron públicamente con ningún cambio, aunque Hassabis abogó por "un término medio sensato" y Friar afirmó que ninguna empresa o gobierno podría garantizar la seguridad por sí solo.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en la redacción de blogs y la cobertura de eventos en el ámbito de las criptomonedas. En Cryptopolitan, Hannah contribuye a la página de noticias, informando y analizando los últimos avances en DeFi, RWA, regulación de criptomonedas, inteligencia artificial y tecnologías de vanguardia. Se graduó de la Universidad de Arcadia con una licenciatura en Administración de Empresas.
