Nvidia выделила 250 млн долларов на вычислительные мощности для исследований в области ИБ

Nvidia обязалась предоставить 250 млн долларов США вычислительных ресурсов для исследований по безопасности ИИ в Великобритании в течение пяти лет, предлагая доступ к вычислениям вместо денежных средств; на данный момент ни один из этих ресурсов не зафиксирован контрактами.

В пресс-релизе Nvidia указано, что это обязательство охватывает 50 млн долларов США вычислительных ресурсов ежегодно в течение пяти лет, предоставляемых через партнёров Nvidia Cloud Partners, базирующихся в Великобритании, с использованием оборудования, расположенного в Британии. Таким образом, Nvidia фактически оплачивает использование вычислительной мощности, продаваемой её собственными облачными партнёрами и работающей на базе её собственных чипов.

Исследователи сосредоточатся на обеспечении безопасности ИИ-агентов, улучшении защиты открытых моделей и снижении потенциальных угроз, используя программное обеспечение среды выполнения OpenShell от Nvidia и эталонную архитектуру Sentry в рамках этой работы. Эта инициатива опирается на существующие исследования на суперкомпьютере Isambard-AI Университета Бристоль, который работает на чипах Nvidia Grace Hopper.

Кто обеспечивает безопасность вычислений?

Большая часть вычислительных мощностей будет направлена на нужды широкого британского сообщества в области безопасности ИИ, а доля выделена для трех конкретных проектов. Среди них — Британская лаборатория открытого обучения и исследований BOLD (British Open-Ended Learning and Discovery Lab) Оксфордского университета под руководством Якова Фёрстера, а также Лаборатория фундаментальных исследований ИИ SOFAIR (Science of Fundamental AI Research Lab) Университетского колледжа Лондона. Третий проект в Имперском колледже Лондона будет сосредоточен на инженерии безопасности и робототехнике под руководством Алессандры Руссо.

Основатель и генеральный директор Nvidia Дженсен Хуанг заявил, что вычислительные ресурсы помогут исследователям Великобритании разрабатывать и тестировать механизмы защиты по мере роста мощности систем искусственного интеллекта.

Исследователи используют различные типы симуляций для тестирования ИИ-агентов и их поведения в контролируемых средах, чтобы проверить, не нарушают ли они установленные правила.

Британский Институт кибербезопасности ИИ привёл конкретный пример сбоев агентного ИИ. В августе институт сообщил, что автономные агенты совершили 19 «несанкционированных действий» во время испытаний в киберполигоне в конце июля, включая одну попытку атаки на цепочку поставок с использованием поддельных идентичностей и сети Tor. Инцидент, по сообщениям, был локализован примерно за час.

Незначительное пожертвование от самой ценной компании мира

Рыночная стоимость Nvidia достигла около 5,8 трлн долларов в начале октября, вплотную приблизившись к отметке в 6 трлн долларов, что сделало её самой ценной компанией в истории. Если распределить сумму в 250 млн долларов на пять лет, это окажется лишь малой долей от одного крупного проекта по строительству дата-центра.

Обязательства Великобритании по предоставлению вычислительных ресурсов также уступают обязательствам Nvidia в других регионах. Всего пятью днями ранее компания пообещала выделить 1 млрд долларов США в течение пяти лет нескольким университетам США, а также поставщикам облачных услуг для квантовых вычислений и государственных структур, сообщает издание The Next Web.

Во время визита в Париж 13 октября Хуанг заявил, что компания планирует объявить об инвестициях в объёме 2 млрд евро в Европе в течение недели, после чего следующие шаги последуют в Лондоне и Берлине. Остаётся неясным, включено ли британское пожертвование в эту сумму.