Виталик указывает на двойные стандарты в вопросе регулирования безопасности ИИ

Виталик Бутерин выразил обеспокоенность по поводу все более спорного использования компаниями и правительствами теоретической концепции «безопасности ИИ». 

Бутерин объяснил на платформе социальных сетей X, что ведущие компании в сфере ИИ, такие как Anthropic, не могут диктовать, какие меры являются подходящими, а какие нет для обеспечения безопасности, поскольку это приводит к системе, в которой правила разрабатываютсяtron.

Можно ли «безопасность ИИ» использовать

Виталик Бутерин недавно высказался в социальной сети X по поводу того, что концепция безопасности ИИ присваивается крупными корпорациями и национальными интересами.

Например, компания Anthropic недавно получила похвалу за отказ разрешить Министерству социального обеспечения (DoW) или другим государственным структурам использовать свои модели Клода для массового наблюдения или полностью автономного оружия.

Однако компания также отменила свое обязательство по обеспечению безопасности в случае возникновения рисков, которое обязывало компанию безоговорочно приостанавливать все обучение и развертывание до тех пор, пока не будут приняты соответствующие меры безопасности, если она когда-либо разработает модель ИИ, возможности которой превзойдут возможности компании доказать безопасность этой модели.

Виталик отметил , что предыдущая критика компанией Anthropic своих конкурентов за использование результатов работы Клода вызвала резкую негативную реакцию, особенно в Китае, где утверждалось, что сам Клод обучал свои модели на основе обширных общедоступных знаний интернета.

Компания Anthropic утверждает, что ее проблема с конкурентами, использующими открытый исходный код, заключается в отсутствии необходимых мер безопасности и создании рисков, но почему Anthropic имеет право решать, какие меры безопасности являются подходящими?

Бутерин заявил, что действия компании Anthropic свидетельствуют о системе, в которой «правила создаютсяtron»

Он выразил опасение, что если безопасность ИИ станет неотличима от менталитета «наша компания/наша страна заслуживает того, чтобы управлять миром», это создаст более опасный мир.

Он утверждает, что если правила безопасности неизбежно будут освобождать от действия норм организации национальной безопасности, то эти правила станут ненадежными. Это особенно актуально, учитывая недавние новости, подтверждающие, что крупные лаборатории искусственного интеллекта все чаще стремятся к многомиллиардным партнерствам с обороннымиtracдля создания безопасных сред ИИ для военного использования.

Опасно ли ограничивать использование ИИ?

Несколько лет назад Виталик стал одним из крупнейших спонсоров Института будущего жизни (FLI). В 2021 году создатели токена подарили ему огромное количество токенов Shiba Inu (SHIB). Когда «пузырь» собачьих монет был на пике, их балансовая стоимость превышала 1 миллиард долларов. Виталик поспешил пожертвовать средства до того, как интерес к ним снизился, и отправил в FLI около 500 миллионов долларов в SHIB .

В то время FLI сосредоточилась на таких рисках, как биологические угрозы и ядерная война. Однако с тех пор FLI переключила свое внимание на агрессивные политические действия и лоббирование, часто продвигая правила, которые Виталик считает тревожными. В частности, он не согласен с их стремлением внедрить в модели ИИ механизмы защиты, чтобы заставить их отказываться от «вредных вещей».

Виталик считает эти ограничения ненадежными решениями, поскольку их легко обойти путем взлома или тонкой настройки системы.

Что еще более важно, он опасается, что эти стратегии приведут к мрачной ситуации, когда ИИ с открытым исходным кодом будет запрещен для поддержания монополии «хороших парней».

Вместо этого Виталик выступает за систему, называемую оборонительным акселерационизмом (d/acc). Эта философия предполагает, что лучший способ справиться с опасными технологиями — это сначала разработать и открыть исходный код защитных экранов.

Недавно он выделил 40 миллионов долларов на такие проекты, как защищенное оборудование, биологическая защита и кибербезопасность, чтобы поддержать свою идеологию.

Надежное оборудование делает компьютерные чипы неуязвимыми для взлома, поэтому их нельзя использовать для массового шпионажа. Биологическая защита включает в себя разработку передовых систем фильтрации воздуха и пассивного ПЦР-тестирования для раннего обнаружения и предотвращения пандемий. Инвестиции в кибербезопасность повысят проверяемость программного обеспечения, чтобы атаки с использованием ИИ не могли легко вывести из строя критически важную инфраструктуру.