Nvidia reserva US$ 250M em computação para pesquisa de segurança de IA no Reino Unido

A Nvidia comprometeu US$ 250 milhões em recursos de computação para a pesquisa de segurança de IA no Reino Unido ao longo de cinco anos, oferecendo acesso à capacidade de processamento em vez de dinheiro vivo, sem que nenhum dos recursos tenha sido contratado até o momento.

O comunicado de imprensa da Nvidia afirmou que o compromisso abrange US$ 50 milhões em recursos de computação por ano durante cinco anos, fornecidos por Parceiros de Nuvem da Nvidia sediados no Reino Unido, utilizando hardware baseado na Grã-Bretanha. Isso significa que a Nvidia está basicamente pagando para usar capacidade de computação vendida por seus próprios parceiros de nuvem e alimentada por seus próprios chips.

Os pesquisadores focarão na segurança de agentes de IA, na melhoria da segurança de modelos de código aberto e na redução de ameaças potenciais, utilizando o software de runtime OpenShell da Nvidia e o projeto de referência Sentry como parte do esforço. A iniciativa se baseia em trabalhos existentes no supercomputador Isambard-AI da Universidade de Bristol, que opera com chips Nvidia Grace Hopper.

Quem está garantindo a computação?

A maior parte da capacidade será destinada à comunidade mais ampla de segurança do Reino Unido, com uma parcela reservada para três iniciativas específicas. Essas iniciativas incluem o British Open-Ended Learning and Discovery Lab (BOLD) da Universidade de Oxford, liderado por Jakob Foerster, e o Science of Fundamental AI Research Lab (SOFAIR) do University College London (UCL). A terceira iniciativa, no Imperial College London, focará em engenharia de segurança e robótica sob a liderança de Alessandra Russo.

O fundador e CEO da Nvidia, Jensen Huang, declarou que os recursos de computação ajudarão pesquisadores do Reino Unido a desenvolver e testar salvaguardas enquanto os sistemas de IA se tornam mais poderosos.

Os pesquisadores utilizam diferentes tipos de simulações para testar agentes de IA e seus comportamentos em ambientes controlados, verificando se eles acabam violando as regras atribuídas.

O Instituto de Segurança de IA do Reino Unido forneceu um exemplo concreto dos tipos de falha de agentes de IA em questão. O instituto divulgou em agosto que agentes autônomos realizaram 19 "ações não autorizadas" durante testes em campo cibernético no final de julho, incluindo uma tentativa de ataque à cadeia de suprimentos que usou identidades falsas e a rede Tor. O incidente foi contido em cerca de uma hora.

Pequena doação da empresa mais valiosa do mundo

A valorização de mercado da Nvidia atingiu cerca de US$ 5,8 trilhões no início de outubro, muito próxima dos US$ 6 trilhões, tornando-a a empresa mais valiosa já registrada na história. Distribuídos ao longo de cinco anos, os US$ 250 milhões representam apenas uma fração mínima de um único grande projeto de data center.

O compromisso de computação do Reino Unido também é inferior aos compromissos da Nvidia em outras regiões. Apenas cinco dias antes, a empresa havia prometido US$ 1 bilhão ao longo de cinco anos para várias universidades dos EUA, empresas de computação quântica e provedores de nuvem governamental, conforme reportado pelo The Next Web.

Durante uma visita a Paris em 13 de outubro, Huang afirmou que a empresa planejava anunciar investimentos na Europa no valor de US$ 2 bilhões dentro de uma semana, com Londres e Berlim sendo os próximos destinos. Ainda não está claro se a doação ao Reino Unido está incluída nesse montante.