El rey Carlos advierte que hay que controlar la IA antes de que desarrolle "capacidades más oscuras" para quitar la vida
Foto del Cementerio Nacional de Arlington en Flickr.
- El rey Carlos III convocó a los líderes en inteligencia artificial de Nvidia, OpenAI, Anthropic y Google DeepMind y les advirtió que debían crear "medios de control suficientes" para la IA.
- El rey Carlos mencionó los riesgos existenciales que supondría que la IA cayera en las manos equivocadas.
- Los ejecutivos escucharon, pero no hicieron ningún compromiso público.
Durante una cumbre celebrada en Escocia, el rey Carlos III les dijo a los directivos de las mayores empresas de inteligencia artificial del mundo que debían encontrar la manera de mantener la tecnología bajo control humano.
El rey advirtió que quienes lo construyeron ahora temen que pueda desarrollar "capacidades más oscuras" e incluso ser utilizado para matar.
¿Qué opina el rey Carlos III sobre la inteligencia artificial?
El rey Carlos III pronunció un discurso en Dumfries House, en East Ayrshire, en una reunión organizada por la Fundación Ditchley que congregó a unos 30 ejecutivos, funcionarios e investigadores, entre ellos el ministro británico de IA, Kanishka Narayan, el director ejecutivo de Nvidia, Jensen Huang, el cofundador de DeepMind, Demis Hassabis, la jefa de finanzas de OpenAI, Sarah Friar, y el director de asuntos globales de Anthropic, Tino Cuéllar.
Según se informa, la lista privada de invitados a la que tuvo acceso Bloomberg también incluía nombres como el del jefe del MI6, Blaise Metreweli, el del autor Yuval Noah Harari y el de Xue Lan, de la Universidad de Tsinghua.
Charles, de 77 años, habló apenas unos 20 minutos antes de abandonar la sala, esperando que la conversación fuera productiva. Quienes valoran la esencia moral de la humanidad, dijo, buscan con urgencia su confirmación de que no perderemos el control de nuestro destino ni de nuestras almas.
Charles calificó el ritmo de la tecnología como "intrigante y profundamente preocupante a partes iguales". Reconoció y elogió su trayectoria en medicina y ciencias de la vida, antes de plantear una pregunta directa: "¿Acaso no necesitamos medios de control suficientes antes de que sea demasiado tarde?"
En su advertencia, el rey hizo referencia a las preocupaciones de los creadores de la tecnología de IA. También afirmó que estos sistemas corren el riesgo de desarrollar capacidades más oscuras, incluso la de quitar la vida. Añadió que los ejecutivos deberían considerar los peligros existenciales que supone que estas herramientas caigan en manos equivocadas.
Anteriormente, Charles envió un mensaje en vídeo a la Cumbre de Seguridad de la IA del Reino Unido de 2023 en Bletchley Park, expresando sentimientos similares.
El asesor del Vaticano en materia de IA, Paolo Benanti, estuvo presente en la Cumbre, y el Papa León XIV escribió en una encíclica de mayo que la IA no debe permanecer en manos "de unos pocos"
¿Se ralentizará el desarrollo de la IA?
Hassabis les dijo a los delegados que la inteligencia artificial general —sistemas que podrían igualar o superar a los humanos en muchas tareas— probablemente estaría a "tan solo unos pocos años de distancia"
Afirmó que la tecnología podría tener un impacto potencial diez veces mayor que el de la Revolución Industrial. Añadió que la probabilidad de que algo saliera mal era «definitivamentedefide cero», aunque luego concluyó diciendo que «el futuro aún no está escrito»
Friar afirmó que el creciente poder de esta tecnología plantea interrogantes sobre cómo mantenerla al servicio de la gente, y que "ninguna empresa ni gobierno puede hacerlo solo"
Huang, cuya empresa Nvidia está valorada en cerca de 5,15 billones de dólares, afirmó ante los presentes que la seguridad era primordial y que un producto debía ser retirado del mercado si no estaba listo. Abogó por regular los productos de IA en lugar de la tecnología en sí misma y defendió los modelos abiertos como una forma de evitar que los países más pequeños y los investigadores quedaran excluidos.
La cumbre se celebra tras la publicación de la dimisión, que se hizo viral, del investigador de Anthropic, Jacob Coxon, y la predicción de su colega, Evan Hubinger, de que la IA tiene un 10% de probabilidades de causar la extinción humana, lo que ha generado preocupación.
Cryptopolitan ha informado de que Dario Amodei, de Anthropic, publicó un ensayo en el que instaba a los laboratorios a "marcar el ritmo de la frontera", y de que OpenAI lanzó esta semana un sistema que revelaría la mala conducta de los modelos tras registrar seis incidentesdentcomportamiento preocupante.
Sin embargo, no todos están de acuerdo en que el peligro sea real: eldent Donald Trump ha calificado esos temores de "farsa"
Si estás leyendo esto, ya llevas ventaja. Mantente al día con nuestro boletín informativo.
Preguntas frecuentes
¿Qué dijo el rey Carlos en la cumbre de IA?
Advirtió que los propios creadores de la IA temen que pueda desarrollar "capacidades más oscuras, tal vez incluso la de quitar la vida", y preguntó si la industria necesita "medios de control suficientes antes de que sea demasiado tarde", al tiempo que calificó el ritmo de la tecnología como "intrigante y profundamente preocupante"
¿Quiénes asistieron a la cumbre de Dumfries House?
Entre los asistentes se encontraban el director ejecutivo de Nvidia, Jensen Huang, el cofundador de DeepMind, Demis Hassabis, la directora financiera de OpenAI, Sarah Friar, el jefe de asuntos globales de Anthropic, Tino Cuéllar, la ministra de IA del Reino Unido, Kanishka Narayan, y el asesor de IA del Vaticano, Paolo Benanti, entre unas 30 personas organizadas por la Fundación Ditchley.
¿Las empresas de IA aceptaron alguna nueva norma de seguridad?
No. Los ejecutivos no se comprometieron públicamente a realizar ningún cambio, aunque Hassabis abogó por "una solución intermedia sensata" y Friar dijo que ninguna empresa ni gobierno por sí solo podría garantizar la seguridad.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en redacción de blogs y reportajes sobre eventos en el ámbito de las criptomonedas. En Cryptopolitan, colabora en la sección de noticias, informando y analizando las últimas novedades en DeFi, RWA, regulación de criptomonedas, IA y tecnologías de vanguardia. Se graduó en Administración de Empresas por la Universidad de Arcadia.
