El Reino Unido lleva su Instituto de Seguridad de IA a San Francisco

El gobierno del Reino Unido ha anunciado planes para abrir la primera oficina en el extranjero de su Instituto de Seguridad de IA en Estados Unidos este verano. 

Lea también: El papel del acuerdo de seguridad de IA entre el Reino Unido y los EE. UU. en la evolución tecnológica

En un comunicado publicado el lunes, la secretaria de Ciencia y Tecnología del Reino Unido, Michelle Donelan, anunció que la nueva oficina en Estados Unidos estará ubicada en San Francisco. Esta ciudad alberga algunas de las mayores empresas de inteligencia artificial, como OpenAI, Anthropic e Inflection AI. 

El Reino Unido busca fortalecer su alianza con EE. UU. en materia de seguridad de la IA

La oficina con sede en EE. UU. buscará contratar un equipo de personal técnico, liderado por un Director de Investigación, a medida que comience a operar a finales de este año. La sede del Instituto en Londres cuenta actualmente con un equipo de más de 30 técnicos.

El Secretario de Tecnología dijo que la expansión del Instituto representa el liderazgo británico en IA y establecería una estrecha colaboración con el gobierno de Estados Unidos. 

Es un momento crucial en la capacidad del Reino Unido de estudiar tanto los riesgos como el potencial de la IA desde una perspectiva global, fortaleciendo nuestra asociación con los EE. UU. y allanando el camino para que otros países aprovechen nuestra experiencia mientras continuamos liderando el mundo en seguridad de la IA.

Michelle Donelan, Secretaria de Ciencia y Tecnología del Reino Unido.

Donelan afirma que el Instituto ha crecido “de fortaleza en fortaleza”

El gobierno del Reino Unido creó el Instituto de Seguridad de la IA en noviembre de 2023. Afirmó que el objetivo era "minimizar las sorpresas para el Reino Unido y la humanidad derivadas de los rápidos e inesperados avances en la IA" 

Lea también: El gobierno del Reino Unido anuncia la creación del Instituto de Seguridad de la IA

El Instituto se centra principalmente en la evaluación de sistemas de IA de vanguardia desde la perspectiva de la seguridad nacional. Con esta medida, el gobierno del Reino Unido afirmó que podrá desarrollar respuestas políticas y regulatorias eficaces para las aplicaciones de IA implementadas en su jurisdicción.

Desde que el Primer Ministro y yo fundamos el Instituto de Seguridad de IA, este ha ido creciendo cada vez más en poco más de un año.

Michelle Donelan, Secretaria de Ciencia y Tecnología del Reino Unido.

El Instituto publica los resultados de sus pruebas modelo

Según se informa, el Instituto de Seguridad de IA del Reino Unido es la primera organización respaldada por el gobierno en publicar los resultados de sus pruebas de seguridad de modelos de IA. El instituto probó cinco modelos de lenguaje de gran tamaño disponibles públicamente, aunque no especifica sus nombres. 

La seguridad de la IA es un campo aún muy joven y emergente. […] Nuestra ambición es seguir ampliando las fronteras de este campo mediante el desarrollo de evaluaciones de vanguardia, con énfasis en los riesgos relacionados con la seguridad nacional.

Ian Hogarth, presidente del Instituto de Seguridad de IA del Reino Unido.

Se indicó que varios modelos completaron sus pruebas de ciberseguridad. Sin embargo, todos demostraron ser altamente vulnerables a fugas de seguridad básicas. Algunos modelos produjeron resultados perjudiciales incluso sin intentos deliberados de eludir las medidas de seguridad.

Reportaje Cryptopolitan de Ibiam Wayas