Nvidia reserva $250M en capacidad de cómputo para investigación británica sobre seguridad de la IA

Nvidia se ha comprometido a aportar 250 millones de dólares en recursos informáticos para la investigación sobre seguridad de la IA en el Reino Unido durante cinco años, ofreciendo acceso a capacidad de cómputo en lugar de efectivo, sin que ninguno de estos recursos haya sido contratado hasta el momento.

El comunicado de prensa de Nvidia indicó que el compromiso cubre 50 millones de dólares en recursos informáticos anuales durante cinco años, proporcionados a través de socios de nube de Nvidia con sede en el Reino Unido, utilizando hardware ubicado en Gran Bretaña. Esto significa que Nvidia básicamente está pagando por utilizar capacidad de cómputo vendida por sus propios socios de nube y alimentada por sus propios chips.

Los investigadores se centrarán en asegurar los agentes de IA, mejorar la seguridad de los modelos abiertos y reducir las amenazas potenciales, utilizando el software de tiempo de ejecución OpenShell de Nvidia y el diseño de referencia Sentry como parte del esfuerzo. La iniciativa se basa en el trabajo existente realizado en el supercomputador Isambard-AI de la Universidad de Bristol, que funciona con chips Nvidia Grace Hopper.

¿Quién está asegurando la capacidad de cómputo?

La mayor parte de la capacidad se destinará a la comunidad más amplia de seguridad en el Reino Unido, con una parte reservada para tres iniciativas específicas. Estas incluyen el British Open-Ended Learning and Discovery Lab (BOLD) de Oxford, dirigido por Jakob Foerster, y el Science of Fundamental AI Research Lab (SOFAIR) del University College London. La tercera iniciativa, en el Imperial College London, se centrará en la ingeniería de seguridad y la robótica bajo la dirección de Alessandra Russo.

El fundador y CEO de Nvidia, Jensen Huang, declaró que los recursos informáticos ayudarían a los investigadores del Reino Unido a desarrollar y probar salvaguardas a medida que los sistemas de IA se vuelvan más potentes.

Los investigadores utilizan diferentes tipos de simulaciones para probar agentes de IA y sus comportamientos en entornos controlados, y si terminan violando las reglas asignadas.

El Instituto de Seguridad de IA del Reino Unido dio un ejemplo concreto de los tipos de fallo de la IA agéntica en cuestión. El instituto reveló en agosto que los agentes autónomos realizaron 19 "acciones no autorizadas" durante las pruebas de ciberespacio a finales de julio, incluido un intento de ataque a la cadena de suministro que utilizó identidades falsas y Tor. Se informó que el incidente fue contenido en aproximadamente una hora.

Pequeña donación de la empresa más valiosa del mundo

El valor de mercado de Nvidia alcanzó unos 5,8 billones de dólares a principios de octubre, muy cerca de los 6 billones, lo que la convierte en la empresa más valiosa jamás registrada. Distribuido a lo largo de cinco años, 250 millones de dólares es solo una fracción de un único gran proyecto de centro de datos.

El compromiso de computación del Reino Unido también es inferior a los compromisos de Nvidia en otros lugares. Solo cinco días antes, la empresa se comprometió a donar 1000 millones de dólares durante cinco años a varias universidades estadounidenses, proveedores de computación cuántica y servicios en la nube gubernamentales, según informó The Next Web .

Durante su visita a París el 13 de octubre, Huang dijo que la compañía planeaba anunciar inversiones por 2.000 millones de euros en Europa dentro de una semana, con Londres y Berlín como próximos destinos. Sigue sin estar claro si la donación al Reino Unido está incluida en esa cifra.