OpenAI призывает к созданию глобальной системы обеспечения безопасности ИИ на фоне обострения напряженности между США и Китаем

Организация OpenAI заявляет, что искусственный интеллект нуждается в таком же регулировании, как и атомная энергетика, и призывает США инициировать создание глобального регулирующего органа для решения этой проблемы. 

Как сообщает Cryptopolitan, это произошло на фоне поездки президентаdent в Пекин с первым за девять лет государственным визитом США и Китая, в ходе которого, как ожидалось, будет обсуждаться политика в области искусственного интеллекта.

По словам Криса Лехейна, вице-dent по глобальным вопросам компании OpenAI, встреча Трампа и Си Цзиньпина в одной комнате — это редкая возможность для двух стран создать что-то долгосрочное для искусственного интеллекта.

«Искусственный интеллект в некоторой степени выходит за рамки многих существующих или традиционных торговых проблем. Появляется возможность начать создавать нечто действительно глобальное, и в этом потенциально могут участвовать страны со всего мира, включая Китай», — заявил Крис Лехейн во время брифинга.

Что такое OpenAI, и почему её мнение о глобальной политике имеет такое большое значение?

OpenAI — американская компания, разработавшая ChatGPT, популярного ИИ-помощника/чат-бота, которым ежедневно пользуются сотни миллионов людей.

Компания всегда принимала участие во всех крупных дебатах о мощных системах искусственного интеллекта. Ее генеральный директор, Сэм Альтман, обычно встречается с главами государств для обсуждения ИИ и даже выступает перед Конгрессом, что дает компании значительное влияние на глобальную политику в области ИИ.

Компания OpenAI также участвует в отдельном судебном разбирательстве после того, как генеральный директор Tesla Илон Маск в суд в 2024 году. Маск является одним из основателей OpenAI, и он утверждает, что Сэм Альтман и другие руководители пошли против некоммерческой миссии компании и превратили ее в коммерческую организацию. 

Судебный процесс еще продолжается, но главные события этой недели разворачиваются в Пекине.

Что предложила компания OpenAI, и в чём заключается сравнение с МАГАТЭ?

Вице-dent по глобальным вопросам организации OpenA Крис Лехейн предложил связать две вещи для создания чего-то нового.

в области искусственного интеллекта Министерства торговли США стандартов и инноваций и институты безопасности ИИ объединились и создали глобальную сеть. В качестве примера того, как страны объединили свои органы ядерного регулирования в единый орган, он привел Международное агентство по атомной энергии (МАГАТЭ) 

Центр стандартов и инноваций в области искусственного интеллекта Министерства торговли США — это правительственное учреждение, которое разрабатывает технические стандарты для систем искусственного интеллекта. 

В то же время страны по всему миру создают институты искусственного интеллекта. Например, такой институт есть в Великобритании, ЕС разрабатывает соответствующие рамки, и несколько правительств азиатских стран также работают над созданием аналогичных организаций. 

Лехейн заявил, что единый орган по искусственному интеллекту поможет создать более безопасные и устойчивые системы, менее подверженные атакам. Он также хочет, чтобы правительство США обязало исследователей страны тестировать самые мощные модели ИИ перед их внедрением. 

Что представляет собой модель «Мифос», и почему она вызывает беспокойство как в Вашингтоне, так и в Пекине?

Mythos — это новая мощная модель искусственного интеллекта, которая обнаружила «тысячи» серьезных уязвимостей в операционных системах и другом программном обеспечении. Mythos была разработана компанией Anthropic (компания по обеспечению безопасности ИИ, поддерживаемая Google и Amazon).

Масштабы возможностей Mythos потрясли мир, и после объявления банкам и правительствам пришлось в спешке налаживать системы безопасности. Представители Белого дома даже признали, что такие модели, как Mythos, сделали общение с Китаем важнее, чем когда-либо. 

Китай был лишен раннего доступа к предварительной версии Mythos, что вызвало опасения по поводу способности разработчиков и правительства страны защититься от атак, использующих эту модель искусственного интеллекта. 

Аналитическая компания IDC China даже предупредила, что исключение Китая из проекта Mythos может создать «разрыв поколений» в возможностях защиты с использованием искусственного интеллекта между Китаем и Западом. 

По мнению исследователей, злоумышленники могут использовать передовой искусственный интеллект для разработки биологического оружия, провоцирования финансовых потрясений или действий в автономном режиме без участия человека. Самое страшное то, что для этого ИИ достаточно быть мощным, быстрым и направленным в неправильном направлении. 

Что произошло на встрече Трампа и Си Цзиньпина, и что они обсуждали?

В состав американской делегации в Китай входили генеральный директор Nvidia Дженсен Хуанг и главный советник Белого дома по вопросам технологической политики Майкл Крациос. Их присутствие в поездке сделало встречу приоритетной и неотложной задачей, поскольку обе стороны были готовы к прямому обсуждению вопросов искусственного интеллекта. 

Китай предложил провести официальный диалог по вопросам искусственного интеллекта под руководством министра финансов Скотта Бессента и заместителя министра финансов Ляо Миня. Однако ожидания от этого канала невелики, поскольку ни одно из ведомств не специализируется на ИИ.

США также планировали выразить обеспокоенность тем, что китайские разработчики используют результаты работы передовых моделей искусственного интеллекта для создания систем с гораздо меньшими затратами, но с меньшим количеством мер безопасности.

Обе стороны также обсудили возможность создания горячей линии, позволяющей сообщать о предполагаемыхdent, связанных с искусственным интеллектом, по аналогии с военными горячими линиями.

Аналитики даже предположили, что правительства обеих стран могли бы установить ограничения для передовых моделей искусственного интеллекта, аналогичные Соглашению между США и Китаем по кибербезопасности.

Наконец, в ходе обсуждений можно было бы также затронуть MATCH Act, предлагаемый в США, который направлен на ограничение доступа Китая к цепочкам поставок полупроводников. 

Сунь Чэнхао из Университета Цинхуа, принявший участие в американо-китайских переговорах по искусственному интеллекту, заявил, что США должны провести четкую грань между управлением рисками безопасности ИИ и простыми попытками заблокировать технологическое развитие Китая. 

«Китай, вероятно, надеется, что США смогут должным образом разграничить управление искусственным интеллектом и технологическое сдерживание», — сказал Сунь Чэнхао.