O Reino Unido leva seu Instituto de Segurança de IA para São Francisco

O governo do Reino Unido anunciou planos para abrir o primeiro escritório internacional do seu Instituto de Segurança de IA nos Estados Unidos neste verão. 

Leia também: O papel do acordo de segurança de IA entre o Reino Unido e os EUA na evolução tecnológica

Em um comunicado divulgado na segunda-feira, a Secretária de Ciência e Tecnologia do Reino Unido, Michelle Donelan, afirmou que o novo escritório nos EUA ficará localizado em São Francisco. A cidade abriga algumas das maiores empresas de IA, incluindo OpenAI, Anthropic e Inflection AI. 

Reino Unido busca fortalecer parceria com os EUA em segurança de IA

O escritório nos EUA pretende recrutar uma equipe de pessoal técnico liderada por um Diretor de Pesquisa para iniciar suas operações ainda este ano. A sede do Instituto em Londres conta atualmente com uma equipe de mais de 30 funcionários técnicos.

O Secretário de Tecnologia afirmou que a expansão do Instituto representa a liderança britânica em IA e estabelecerá uma estreita colaboração com o governo dos EUA. 

Este é um momento crucial para a capacidade do Reino Unido de estudar tanto os riscos quanto o potencial da IA ​​numa perspectiva global, fortalecendo nossa parceria com os EUA e abrindo caminho para que outros países aproveitem nossa experiência, enquanto continuamos a liderar o mundo em segurança da IA.

Michelle Donelan, Secretária de Ciência e Tecnologia do Reino Unido.

Donelan afirma que o Instituto tem crescido cada vez mais

O governo do Reino Unido criou o Instituto de Segurança da IA ​​em novembro de 2023. Segundo o instituto, o objetivo era "minimizar as surpresas para o Reino Unido e para a humanidade decorrentes de avanços rápidos e inesperados na área da IA" 

Leia também: Governo do Reino Unido anuncia a criação do Instituto de Segurança da IA

O Instituto concentra-se principalmente na avaliação de sistemas de IA de ponta sob a ótica da segurança nacional. Com essa avaliação, o governo do Reino Unido afirma que poderá desenvolver políticas e respostas regulatórias eficazes para aplicações de IA implantadas em sua jurisdição.

Desde que o Primeiro Ministro e eu fundamos o Instituto de Segurança de IA, ele tem crescido e se fortalecido em pouco mais de um ano.

Michelle Donelan, Secretária de Ciência e Tecnologia do Reino Unido.

O Instituto publica os resultados dos seus testes de modelo

O Instituto de Segurança de IA do Reino Unido é considerado a primeira organização apoiada pelo governo a publicar os resultados de seus testes de segurança de modelos de IA. O Instituto testou cinco grandes modelos de linguagem disponíveis publicamente, embora não tenha especificado os nomes. 

A segurança da IA ​​ainda é um campo muito jovem e emergente. [...] Nossa ambição é continuar a expandir as fronteiras deste campo, desenvolvendo avaliações de última geração, com ênfase nos riscos relacionados à segurança nacional.

Ian Hogarth, presidente do Instituto de Segurança de IA do Reino Unido.

O relatório afirma que vários modelos concluíram seus desafios de segurança cibernética. No entanto, todos se mostraram altamente vulneráveis ​​a "quebras de segurança" básicas. Alguns modelos produziram resultados prejudiciais mesmo quando não houve tentativas deliberadas de burlar as medidas de segurança.

Reportagem Cryptopolitan por Ibiam Wayas