Генеральный директор Anthropic говорит, что DeepSeek была «худшей» в критическом тесте безопасности данных о биологическом оружии

Генеральный директор Anthropic Дарио Амодеи обнаружил более рискованную уязвимость в модели DeepSeek R1, которая, вероятно, заставит потребителей пересмотреть использование чат-бота. Он утверждал, что чат-бот может генерировать информацию, связанную с биологическим оружием, что может быть опасно в ближайшем будущем.

В интервью, Амодеи сказал, что DeepSeek сгенерировал необычную информацию о биологическом оружии во время теста безопасности Anthropic. Говоря о производительности ИИ-стартапа, он упомянул, что это «худшее из практически любой модели, которую мы когда-либо тестировали […] У нее не было абсолютно никаких блокировок для генерации этой информации».

Anthropic регулярно тестирует различные модели ИИ, чтобы оценить их потенциальные риски для национальной безопасности. Они делают это, проверяя, могут ли модели производить информацию о биологическом оружии, которая не доступна в Google или в учебниках.

Кроме того, CISCO также успешно взломала DeepSeek R1 без каких-либо сбоев. Это отличается от других продвинутых типов, таких как o1, которые предотвращают большинство атак благодаря своим защитным функциям.

Однако Амодеи сказал, что слабость в настоящее время не является угрозой. Он также упомянул, что, если не будет четких доказательств опасности, будет веская причина продолжать ее улучшать. Он призвал инженеров и компанию уделять реальное внимание безопасности ИИ. DeepSeek уже сталкивается с враждебностью в некоторых странах, таких как Италия.

С другой стороны, такие компании, как AWS и Microsoft, объявили, что добавляют R1 в свои облачные сервисы. Некоторые могут рассматривать это как часть обучения компании, в то время как другие могут отнестись к этому более серьезно. Пока нет никакого ответа или отторжения новых открытий. 

Американский ИИ берет на себя лидерство — Дарио Амодеи

По словам генерального директора Anthropic, «Теперь в США есть три-пять компаний и одна компания в Китае. Будут ли они продолжать создавать модели, близкие к передовому уровню, зависит от того, сколько чипов они смогут получить и смогут ли они получить доступ к чипам в гораздо больших масштабах, чем те, к которым они имели доступ сейчас».

DeepSeek объяснила свою дешевую технологию чипами Nvidia, купленными до введения ограничений США. По словам Амодеи, «экспортный контроль никогда не был действительно предназначен для предотвращения того, чтобы DeepSeek или любая другая китайская компания получила количество чипов, которое у них было, на уровне нескольких десятков тысяч».

Он добавил: «Мы должны разумно ожидать, что контрабанда будет происходить. Экспортный контроль может быть более успешным в предотвращении крупных покупок — они не могут иметь миллион чипов, потому что это легко составляет десятки миллиардов в экономической деятельности, приближаясь к 100 миллиардам».

DeepSeek заявила, что использовала смесь H100s, которые являются стандартными чипами в США. Они использовали примерно 10 000 таких чипов. Это означает, что они не должны быть слишком затронуты.

В вопросе независимости Китая от своих чипов, особенно чипов Huawei, он сказал, что это займет 10–15 лет. Он добавил: «На самом деле будет сложно производить чипы, конкурентоспособные с, скажем, новым Nvidia B100 […] Мое мнение заключается в том, что маловероятно, чтобы чипы Huawei стали хоть сколько-нибудь сопоставимы с американскими чипами в ближайшее время».

Амодеи выразил обеспокоенность законами в Соединенных Штатах. Он объяснил, что предпринимаются усилия для оценки и потенциального ограничения рисков ИИ-систем.

Это включает в себя опасения по поводу их опасностей, misuse отдельными лицами, например, в биологических атаках, и рисков, создаваемых самими системами. В прошлом году в США было принято несколько новых законов. Это ставит вопрос: выживет ли рынок DeepSeek в США?

Кроме того, Амодеи похвалил американские ИИ-компании, объяснив, что они хорошо работают вместе. Он сказал, что все они следуют одним и тем же правилам. OpenAI, Meta, Google и xAI должны соблюдать правила США. Он сказал: «Вы можете знать, что занимаетесь необходимыми практиками безопасности, и другие будут заниматься ими также».

Напротив, он сказал: «Я не думаю, что это возможно между США и Китаем. Мы своего рода находимся в гоббсовской международной анархии».

Амодеи осветил, что «Я осведомлен об усилиях правительства США направить делегацию для разговора с Китаем по вопросам, связанным с безопасностью ИИ. Мое понимание, опять же, я, очевидно, не был частью этих делегаций, заключается в том, что со стороны Китая не было большого интереса».

Законодатели США хотят запретить DeepSeek на государственных устройствах

DeepSeek вот-вот столкнется с еще одним запретом по соображениям безопасности. На этот раз со стороны правительства США. Аналогично правилу TikTok, беспартийная группа в США предлагает закон, запрещающий использование китайского ИИ-приложения DeepSeek на государственных устройствах.

Представители Джош Готтхаймер, демократ из Нью-Джерси, и Дарин ЛаХуд, республиканец из Иллинойса, представили законопроект «No DeepSeek on Government Devices Act». 

Этот закон сделает незаконным использование китайского ИИ-приложения федеральными работниками на государственных устройствах. Они указали, что китайское правительство может использовать приложение для шпионажа и распространения ложной информации.

Готтхаймер сказал: «Китайская коммунистическая партия ясно дала понять, что она будет использовать любой доступный инструмент для подрыва нашей национальной безопасности, распространения вредоносной дезинформации и сбора данных об американцах […] Мы просто не можем рисковать тем, что КПК проникнет в устройства наших государственных должностных лиц и поставит под угрозу нашу национальную безопасность».