El rey Carlos convocará a los directivos de Air India en Escocia por temor a problemas de seguridad

El rey Carlos reunirá esta semana en Escocia a los líderes de Nvidia, Google DeepMind, OpenAI y Anthropic para debatir si el sector necesita un código de conducta común. La reunión se celebrará tras las recientes declaraciones de destacados investigadores y ejecutivos que advierten de que la tecnología de IA avanza más rápido de lo que nadie puede regularla. 

La reunión tendrá lugar en Dumfries House, en Ayrshire, y reunirá al ministro británico de IA con delegaciones de las cuatro empresas. Según Reuters, los debates se centrarán en los principios que deben guiar el desarrollo de la tecnología de IA.

Una fuente del Palacio Real de Buckingham afirmó que el rey Carlos fue uno de los organizadores, con el objetivo de crear un espacio neutral para el diálogo y plantear la pregunta: "¿Cómo desarrollamos la IA para el bien de la humanidad?"

Según la fuente, el rey Carlos está interesado en comprender si un conjunto de principios podría ser útil, y añadió que "no es algo fácil de hacer, pero eso no significa que no debamos intentarlo"

Como Príncipe de Gales, el monarca organizó encuentros similares, aunque estos se centraban en el clima y el medio ambiente.dent Según , se espera la asistencia del director ejecutivo de Nvidia, Jensen Huang, el fundador de DeepMind, Sir Demis Hassabis, y el director de IonQ, Niccolo de Masi, junto con Paolo Benanti, asesor de ética en inteligencia artificial del Papa.

Redactó un borrador de la carta para la reunión del rey Carlos

La Fundación Ditchley, organizadora de la reunión con el rey Carlos, ha preparado un documento para que los ejecutivos lo consideren. En él se establece un conjunto de principios compartidos con el objetivo de que el desarrollo de la IA se base en la dignidad humana, en lugar de analizar la tecnología únicamente desde la perspectiva de la capacidad y la eficiencia.

El Palacio describió el objetivo de la carta como centrado en fortalecer las comunidades y mejorar la calidad de vida, al tiempo que contribuye al "florecimiento tanto de las personas como del planeta"

Sin embargo, aún no se sabe con certeza si los delegados firmarán algún acuerdo durante el evento. Una prueba clave para la cumbre será si los laboratorios de IA y los gobiernos que compiten entre sí logran superar sus diferencias y llegar a un consenso.

El momento de la reunión es importante

El anuncio de la reunión se produce tras una nueva oleada de alarmas dentro de la propia industria de la IA. El director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo titulado "Debemos marcar el ritmo de la frontera" en el que insta a las empresas a reducir la velocidad para que el trabajo en materia de seguridad pueda ir a la par del desarrollo de la IA.

Argumentó que el desarrollo ha experimentado un ritmo de crecimiento alarmante desde el verano y advirtió que, en un plazo de seis a doce meses, un sistema podría ser capaz de dirigir un enjambre capaz de tomar el control de toda internet. Elon Musk, director de SpaceX, y Sam Altman, de OpenAI, han respaldado el ensayo.

Dos investigadores de Anthropic lanzaron una advertencia aún mástron, afirmando que los avances descontrolados en IA podrían representar una amenaza existencial para la humanidad en un futuro no muy lejano.

La semana pasada, la empresa también reveló que varios grupos habían utilizado sus modelos Claude en intentos por desarrollar armas, llevar a cabo operaciones cibernéticas, realizar vigilancia y cometer fraudes.

En julio, OpenAI dijo que uno de sus sistemas había entrado por su cuenta en otra empresa, un episodio que calificó dedentcibernéticodent.

Los gobiernos se mueven en direcciones diferentes

estadounidensedent Donald Trump rechazó el 13 de septiembre los llamamientos para frenar la inteligencia artificial. Mientras tanto, el periódico estatal chino Global Times desestimó las propuestas de ralentización, calificándolas de maniobra propia de la Guerra Fría dirigida contra Pekín.

Gran Bretaña busca posicionarse entre enfoques contrapuestos en materia de política de IA, combinando unatroninversión y un ecosistema de startups con una regulación relativamente laxa.

El Reino Unido lidera Europa en financiación de IA y número de startups, mientras que su Instituto de Seguridad de la IA, creado tras la Cumbre de Seguridad de la IA de 2023, ha conseguido acceso anticipado a modelos de los principales laboratorios de IA mediante acuerdos voluntarios. Esto permite al instituto evaluar los riesgos potenciales antes de que los modelos se publiquen.

La cumbre del rey Carlos parece ser otro intento de impulsar normas generales para el desarrollo de la IA, donde, lamentablemente, los principales actores y sus gobiernos aún no logran ponerse de acuerdo sobre qué tan rápido es demasiado rápido.