Генеральный директор Anthropic заявил, что DeepSeek показал «худшие» результаты в критически важном тесте на безопасность данных о биологическом оружии

Генеральный директор Anthropic, Дарио Амодей, обнаружил более опасную уязвимость в модели R1 DeepSeek, которая, вероятно, заставит потребителей пересмотреть использование чат-бота. Он заявил, что чат-бот может генерировать информацию, связанную с биологическим оружием, что может быть опасно в ближайшем будущем.

В интервью Амодей заявил, что DeepSeek сгенерировал необычную информацию о биологическом оружии во время антропогенного теста на безопасность. Говоря о результатах работы стартапа в области ИИ, он отметил, что это «худшая из практически всех моделей, которые мы когда-либо тестировали […] У нее абсолютно не было никаких препятствий для генерации этой информации».

Компания Anthropic регулярно тестирует различные модели ИИ, чтобы оценить потенциальные риски для национальной безопасности. Они делают это, проверяя, могут ли модели предоставлять информацию о биологическом оружии, которая не так легко доступна в Google или учебниках.

Кроме того, CISCO также успешно взломала DeepSeek R1 без каких-либо сбоев. Это отличает её от других продвинутых типов, таких как o1, которые предотвращают большинство атак благодаря своим защитным функциям.

Однако Амодей заявил, что на данный момент эта уязвимость не представляет угрозы. Он также отметил, что, пока не будет явных доказательств опасности, будет веская причина продолжать ее совершенствовать. Он призвал инженеров и компанию уделять реальное внимание безопасности ИИ. DeepSeek уже сталкивается с враждебностью в некоторых странах, например, в Италии.

С другой стороны, такие компании, как AWS и Microsoft, объявили о добавлении R1 в свои облачные сервисы. Некоторые могут рассматривать это как часть процесса обучения для компании, в то время как другие могут отнестись к этому более серьезно. Пока что никакой реакции или негативной реакции на новые данные нет. 

Искусственный интеллект в США лидирует – Дарио Амодей

По словам генерального директора Anthropic, «сейчас в США работают от трех до пяти компаний, а в Китае — одна. Будут ли они и дальше создавать модели, близкие к передовым, зависит от того, к какому количеству микросхем они смогут получить доступ и смогут ли они получить доступ к микросхемам в гораздо больших масштабах, чем те, к которым они имеют доступ сейчас»

Компания DeepSeek объясняла свою дешевизну технологий использованием чипов Nvidia , приобретенных до введения американских ограничений. По словам Амодеи, «экспортный контроль изначально не был предназначен для того, чтобы помешать DeepSeek или любой другой китайской компании получить такое количество чипов, какое у них было — несколько десятков тысяч».  

Он добавил: «Мы вполне можем ожидать контрабанды. Экспортный контроль может быть более эффективным в предотвращении крупных закупок — они не могут иметь, например, миллион чипов, потому что это легко может составлять десятки миллиардов долларов экономической активности, приближаясь к 100 миллиардам»

Компания DeepSeek заявила, что использовала комбинацию чипов H100, которые являются стандартными для использования в США. Они использовали приблизительно 10 000 таких чипов. Это означает, что они не должны сильно пострадать.

Отвечая на вопрос о том, станет ли Китайdent в производстве чипов, особенно чипов Huawei, он сказал, что на это потребуется от 10 до 15 лет. Он добавил: «На самом деле будет сложно производить чипы, конкурентоспособные, скажем, с новой Nvidia B100 […] Мне кажется, маловероятно, что чипы Huawei в ближайшее время станут хоть сколько-нибудь сопоставимы с американскими чипами»

Амодей выразил обеспокоенность по поводу законодательства в Соединенных Штатах. Он пояснил, что предпринимаются усилия по оценке и потенциальному ограничению рисков, связанных с системами искусственного интеллекта.

Это включает в себя опасения по поводу их опасности, злоупотреблений со стороны отдельных лиц, например, в биологических атаках, а также рисков, создаваемых самими системами. За последний год в США было принято несколько новых законов. Это поднимает вопрос о том, выживет ли DeepSeek на рынке США?

Кроме того, Амодей высоко оценил работу американских компаний, занимающихся искусственным интеллектом, объяснив, что они хорошо сотрудничают. Он сказал, что все они следуют одним и тем же правилам. OpenAI, Meta, Google и xAI должны соблюдать американские нормы. Он отметил: «Вы можете быть уверены, что применяете необходимые меры безопасности, и другие компании также будут их соблюдать».

Напротив, он сказал: «Я не думаю, что это возможно между США и Китаем. Мы находимся в своего рода гоббсовской международной анархии»

Амодей уточнил: «Мне известно об усилиях правительства США по отправке делегации в Китай для обсуждения вопросов, связанных с безопасностью ИИ. Насколько я понимаю, хотя я, очевидно, не входил в состав этих делегаций, интереса со стороны Китая было не так уж много»

Американские законодатели хотят запретить DeepSeek на государственных устройствах

DeepSeek вот-вот столкнется с очередным запретом по соображениям безопасности. На этот раз со стороны правительства США. Подобно TikTok , двухпартийная группа в США предлагает закон, запрещающий использование китайского приложения с искусственным интеллектом DeepSeek на государственных устройствах.

Члены палаты представителей Джош Готхаймер, демократ от штата Нью-Джерси, и Дарин Лахуд, республиканец от штата Иллинойс, внесли законопроект под названием «Закон о запрете использования технологии DeepSeek на государственных устройствах» 

Этот законопроект запретит федеральным служащим использовать китайское приложение с искусственным интеллектом на государственных устройствах. Они указали на то, что китайское правительство может использовать это приложение для шпионажа и распространения ложной информации.

Готхаймер заявил: «Китайская коммунистическая партия ясно дала понять, что будет использовать любые имеющиеся в ее распоряжении инструменты для подрыва нашей национальной безопасности, распространения вредоносной дезинформации и сбора данных об американцах […] Мы просто не можем рисковать тем, что КПК внедрит данные в системы наших правительственных чиновников и поставит под угрозу нашу национальную безопасность»