El Reino Unido lleva su Instituto de Seguridad de la IA a San Francisco

El gobierno del Reino Unido ha anunciado planes para abrir la primera oficina en el extranjero de su Instituto de Seguridad de la IA en Estados Unidos este verano. 

También lea: El papel del acuerdo de seguridad de la IA entre el Reino Unido y EE. UU. en la evolución tecnológica

En una declaración publicada el lunes, la Secretaria de Ciencia y Tecnología del Reino Unido, Michelle Donelan, dijo que la nueva oficina de EE. UU. estará ubicada en San Francisco. La ciudad alberga algunas de las mayores empresas de IA, incluidas OpenAI, Anthropic e Inflection AI.

El Reino Unido busca fortalecer la asociación con EE. UU. en materia de seguridad de la IA

La oficina con sede en EE. UU. buscará reclutar un equipo de personal técnico encabezado por un Director de Investigación cuando comience a operar a finales de este año. La sede de Londres del Instituto cuenta actualmente con un equipo de más de 30 miembros de personal técnico.

La Secretaria de Tecnología dijo que la expansión del Instituto representa el liderazgo británico en IA y establecería una estrecha colaboración con el gobierno de EE. UU. 

Es un momento crucial en la capacidad del Reino Unido para estudiar tanto los riesgos como el potencial de la IA desde una perspectiva global, fortaleciendo nuestra asociación con EE. UU. y allanando el camino para que otros países aprovechen nuestra experiencia mientras continuamos liderando el mundo en seguridad de la IA.

Michelle Donelan, Secretaria de Ciencia y Tecnología del Reino Unido.

Donelan dice que el Instituto ha crecido de "fortaleza en fortaleza"

El gobierno del Reino Unido presentó el Instituto de Seguridad de la IA en noviembre de 2023. Dijo que el objetivo era "minimizar las sorpresas para el Reino Unido y la humanidad derivadas de los avances rápidos e inesperados en la IA.” 

También lea: El gobierno del Reino Unido anuncia el establecimiento del Instituto de Seguridad de la IA

El Instituto se centra principalmente en evaluar los sistemas de IA "de vanguardia" desde la perspectiva de la seguridad nacional. Según esta medida, el gobierno del Reino Unido dijo que podrá desarrollar respuestas políticas y regulatorias efectivas a las aplicaciones de IA desplegadas dentro de su jurisdicción.

Desde que el Primer Ministro y yo fundamos el Instituto de Seguridad de la IA, ha crecido de fortaleza en fortaleza y en poco más de un año.

Michelle Donelan, Secretaria de Ciencia y Tecnología del Reino Unido.

El Instituto publica los resultados de sus pruebas de modelos

Se informa que el Instituto de Seguridad de la IA del Reino Unido es la primera organización respaldada por el gobierno en publicar los resultados de sus pruebas de seguridad de modelos de IA. El Instituto probó cinco modelos de lenguaje grandes disponibles públicamente, aunque no especifica los nombres. 

La seguridad de la IA sigue siendo un campo muy joven y emergente. […] Nuestra ambición es seguir impulsando la frontera de este campo desarrollando evaluaciones de última generación, con énfasis en los riesgos relacionados con la seguridad nacional.

Ian Hogarth, Presidente del Instituto de Seguridad de la IA del Reino Unido.

Dijo que varios modelos completaron sus desafíos de ciberseguridad. Sin embargo, todos resultaron ser altamente vulnerables a los "jailbreaks" básicos. Algunos modelos produjeron resultados dañinos incluso cuando no hubo intentos deliberados de eludir las salvaguardas.

Información de Cryptopolitan por Ibiam Wayas