OpenAI призывает к созданию глобальной системы безопасности ИИ на фоне обострения напряженности между США и Китаем

OpenAI заявляет, что искусственный интеллект нуждается в регулировании, сопоставимом с ядерной энергетикой, и выступает за инициацию США создания глобального регулятора для решения этих вопросов. 

Как сообщалось Cryptopolitan, это происходит на фоне того, как президент Трамп отправился в Пекин в первый за девять лет государственный визит США–Китай, во время которого политика в области ИИ, как ожидалось, будет в повестке дня.

По словам Криса Леана, вице-президента по глобальным вопросам в OpenAI, встреча Трампа и Си Цзиньпина в одной комнате представляет собой редкую возможность для двух стран построить долгосрочное сотрудничество в сфере ИИ.

«ИИ в некотором смысле выходит за рамки многих существующих или традиционных торговых вопросов. Существует возможность действительно начать строить глобальную структуру, в которой могли бы участвовать страны по всему миру, включая Китай» — сказал Крис Леан во время брифинга.

Что такое OpenAI и почему ее мнение о глобальной политике имеет большое значение?

OpenAI — это американская компания, разработавшая ChatGPT, популярного ИИ-ассистента/чатбота, которым ежедневно пользуются сотни миллионов человек.

Компания всегда участвовала в главных дебатах о мощных системах ИИ. Ее генеральный директор Сэм Альтман обычно встречается с главами государств для обсуждения вопросов ИИ и даже дает показания перед Конгрессом, что придает компании значительное влияние на глобальную политику в сфере ИИ.

OpenAI также ведет отдельный судебный спор после того, как генеральный директор Tesla Илон Маск подал в 2024 году. Маск является одним из основателей OpenAI и утверждает, что Сэм Альтман и другие руководители пошли против миссии компании как некоммерческой организации, превратив ее в коммерческую структуру. 

Судебный процесс все еще продолжается, но главной новостью этой недели стали события в Пекине.

Что предложила OpenAI и в чем заключается сравнение с МАГАТЭ?

Вице-президент по глобальным вопросам в OpenAI Крис Леан предложил связать две вещи, чтобы создать нечто новое.

Он хочет, чтобы Центр стандартов и инноваций в области ИИ при Министерстве торговли США и институты по безопасности ИИ объединились для создания глобальной сети. В качестве примера он привел Международное агентство по атомной энергии (МАГАТЭ), показав, как страны объединили свои ядерные регуляторные органы в единый надзорный орган. 

Центр стандартов и инноваций в области ИИ при Министерстве торговли США — это правительственное учреждение, разрабатывающее технические стандарты для систем ИИ. 

В то же время страны по всему миру создают институты ИИ. Например, в Великобритании уже есть такой институт, ЕС разрабатывает нормативные рамки, а несколько азиатских правительств также работают над созданием аналогичных структур. 

Леан заявил, что единый орган по ИИ поможет создать более безопасные и устойчивые системы, менее подверженные атакам. Он также хочет, чтобы правительство США сделало обязательным тестирование наиболее мощных моделей ИИ исследователями перед их развертыванием. 

Что такое модель Mythos и почему она вызывает тревогу как в Вашингтоне, так и в Пекине?

Mythos — это новая мощная модель ИИ, которая обнаружила «тысячи» серьезных уязвимостей в операционных системах и другом программном обеспечении. Модель Mythos разработала компания Anthropic (инвесторы — Google и Amazon).

Масштаб возможностей Mythos шокировал мир: банки и правительства в спешке начали укреплять свою кибербезопасность после объявления о модели. Официальные лица Белого дома даже признали, что наличие таких моделей, как Mythos, делает коммуникацию с Китаем важнее, чем когда-либо прежде. 

Китай был отстранен от раннего доступа к предварительной версии Mythos, что вызвало опасения относительно способности разработчиков и правительства страны защищаться от атак с использованием этой модели ИИ. 

Аналитическая компания IDC China даже предупредила, что исключение Китая из доступа к Mythos может создать «поколенческий разрыв» в возможностях киберзащиты ИИ между Китаем и Западом. 

Согласно Исследователиотмечают, что злоумышленники могут использовать продвинутый ИИ для создания биологического оружия, вызывания финансовых шоков или автономных действий без контроля человека. Самое страшное заключается в том, что для всего этого ИИ должен быть просто мощным, быстрым и направленным в неправильную сторону. 

Что произошло на встрече Трампа и Си, и о чем они обсуждали?

В состав делегации США в Китай вошли генеральный директор Nvidia Дженсен Хуанг и главный советник Белого дома по технологической политике Майкл Крацос. Их присутствие в поездке сделало встречу приоритетной и срочной, так как обе стороны прибыли, подготовившись к прямому обсуждению вопросов ИИ. 

Китай предложил официальный диалог по вопросам ИИ под руководством министра финансов Скотт Бессент и заместителя министра финансов Китая Ляо Мин. Однако ожидания от этого канала низкие, поскольку ни одно из ведомств не специализируется на ИИ.

США также планировали поднять вопрос о том, что китайские разработчики используют выходные данные продвинутых моделей ИИ для создания систем по доле от стоимости, но с меньшим количеством защитных механизмов.

Обе стороны также обсудили возможность создания «горячей линии» без взаимных обвинений для сообщения о подозрительных инцидентах, связанных с ИИ, аналогично военным линиям связи.

Аналитики даже предположили, что оба правительства могут договориться о рамках безопасности для моделей ИИ передового уровня, аналогично Соглашению по кибербезопасности между США и Китаем 2015 года.

Наконец, обсуждения могли также затронуть закон MATCH Act, предлагаемый законопроект США, направленный на ограничение доступа Китая к цепочкам поставок полупроводников. 

Сун Чэнхао из Университета Цинхуа, участвовавший в переговорах США и Китая по ИИ, заявил, что США должны провести четкую границу между управлением рисками безопасности ИИ и попытками просто заблокировать технологическое развитие Китая. 

«Китай, вероятно, надеется, что США будут правильно различать управление ИИ и технологическое сдерживание» — сказал Сун Чэнхао.