Виталик указывает на двойные стандарты в дилемме регулирования безопасности ИИ

Виталик Бутерин выразил подел обеспокоенность по поводу все более спорного использования теоретической концепции «безопасности ИИ» компаниями и правительствами. 

Батерин объяснил на социальной платформе X, что ведущие компании в сфере ИИ, такие как Anthropic, не могут диктовать, какие меры подходят для безопасности, а какие нет, поскольку это приводит к системе, в которой правила создаются самым сильным.

Сможет 'Безопасность ИИ' может использоваться как инструмент глобального доминирования?

Виталик Бутерин недавно опубликовал на платформе X свои опасения по поводу того, что концепция «безопасности ИИ» присваивается крупными корпорациями и национальными интересами.

Например, Anthropic недавно получила одобрение за отказ разрешать Министерству благосостояния (DoW) или другим государственным структурам использовать свои модели Claude для массовой слежки или полностью автономного оружия.m.

Однако компания также отменила свое обязательство по приостановке рисков безопасности , которое обязывало компанию безоговорочно остановить все обучение и развертывание до тех пор, пока меры безопасности не догонят развитие, если когда-либо будет создана модель ИИ, возможности которой опережают способность компании доказать ее безопасность.

Виталик отметил, что предыдущая критика Anthropic в адрес конкурентов за использование выходов Claude вызвала резкую реакцию со стороны критиков, особенно в Китае, которые утверждали, что сама Claude обучала свои модели на обширных открытых знаниях интернета.

Anthropic утверждает, что ее проблема с конкурентами с открытым исходным кодом заключается в том, что им не хватает необходимых защитных механизмов и они представляют риски, но почему именно Anthropic решает, какие меры безопасности подходят?

Бутерин заявил, что действия Anthropic свидетельствуют о системе, где «правила создаются сильнейшими».

Он выразил опасение, что если безопасность ИИ станет неотличимой от менталитета «наша компания/наша страна заслуживают управлять миром», это создаст более опасный мир.

Он утверждает, что если правила безопасности неизбежно освобождают организации национальной безопасности от их действия, эти правила станут хрупкими. Это особенно актуально, поскольку последние новости подтверждают, что крупные лаборатории ИИ все чаще ищут партнерства с оборонными подрядчиками на сумму в миллиарды долларов для обеспечения безопасных сред ИИ для военного использования.

Опасно ли ограничивать ИИ?

Несколько лет назад Виталик стал одним из крупнейших доноров Института будущего жизни (FLI). В 2021 году создатели токенов подарили ему огромное количество токенов Shiba Inu (SHIB). Когда пузырь с «собачьей монетой» достиг пика, ее балансовая стоимость превышала 1 миллиард долларов. Виталик поспешно пожертвовал средства до снижения процентов и перевел примерно 500 миллионов долларов в SHIB в FLI.

В то время FLI сосредоточилась на таких рисках, как биологические угрозы и ядерная война. Однако с тех пор FLI сместила фокус на агрессивные политические действия и лоббирование, часто продвигая регулирование, которое Виталик считает тревожным. В частности, он не согласен с их акцентом на внедрение защитных механизмов в модели ИИ, чтобы они отказывались выполнять «плохие действия».

Виталик рассматривает эти ограничения как хрупкие решения, поскольку их можно легко обойти с помощью взлома (jailbreaking) или дообучения.

Более того, он опасается, что эти стратегии приводят к мрачному месту, где открытый исходный код ИИ запрещается для сохранения монополии «хороших парней».

Виталик вместо этого выступает за систему, называемую оборонительным ускорительством (d/acc). Эта философия предполагает, что лучший способ справиться с опасными технологиями — это сначала создать и открыть исходный код защитных механизмов.

Недавно он выделил 40 миллионов долларов на такие проекты, как защищенное оборудование, биозащита и кибербезопасность, чтобы поддержать свою идеологию.

Защищенное оборудование делает компьютерные микросхемы неуязвимыми для взлома, поэтому их нельзя использовать для массовой слежки. Биозащита включает разработку передовых систем фильтрации воздуха и пассивного ПЦР-тестирования для раннего обнаружения и предотвращения пандемий. Инвестиции в кибербезопасность улучшат проверяемость программного обеспечения, чтобы атаки на основе ИИ не могли легко вывести из строя критическую инфраструктуру.