Билл Гейтс призывает к юридически обязательным мерам защиты ИИ, поскольку глобальные инвестиции превысили 1 триллион долларов

Билл Гейтс предупредил, что компаниям ИИ не следует позволять саморегулироваться, и призывает Вашингтон установить правила безопасности.

Он изложил свои аргументы во время интервью с NBC News, опубликованного 25 сентября, за два дня до выхода полного интервью в программе «Meet the Press».

Он вынес это предупреждение в то время, когда Goldman Sachs прогнозирует, что глобальные инвестиции в ИИ превысят 1 триллион долларов в 2026 году. Это означает, что новые правила безопасности могут привести к важным последствиям для разработчиков, инвесторов и компаний, которые работают над внедрением новых систем безопасности для обеспечения соблюдения правил.

«Никто не считает саморегулирование достаточным»

Гейтс ответил: «Абсолютно», когда модератор Кристина Уэлкер спросила о необходимости действий со стороны Конгресса.

Согласно Гейтсу, «Никто не считает саморегулирование достаточным». Он считает, что законодателям и правоохранительным органам следует установить четкие законы о том, как компании ИИ контролируют риски и какие меры защиты они должны внедрить. Он описал эти обязанности для разработчиков как «немного накладных расходов», а не как нечто, замедляющее прогресс.

Его опасения выходят далеко за рамки обычного злоупотребления. Согласно Гейтсу в интервью NBC, ИИ «определенно достаточно мощен, чтобы спровоцировать события, которые, знаете ли, приведут к миллиарду смертей», особенно когда эти передовые системы попадают в руки лиц с плохими намерениями.

Лидеры отрасли придерживаются разных мнений относительно того, насколько далеко должны заходить эти меры защиты. Генеральный директор Anthropic Дарио Амодей предложил идею «полного замедления или даже „паузы”» как наиболее экстремальную форму коллективного торможения. Генеральный директор OpenAI Сэм Альтман выразил схожую обеспокоенность, утверждая, что «замедление того стоит», и что давление необходимости опережать конкурентов не должно служить оправданием для безрассудных действий.

Однако генеральный директор Meta Марк Цукерберг заявил обратное. В интервью NBC News он заявил: «Я не думаю, что нам нужна какая-либо координация в масштабах всей отрасли». Он предпочитает, чтобы лаборатории замедлялись только тогда, когда чувствуют, что находятся в опасности из-за проблем с безопасностью.

Гейтс хочет управлять рисками, а не останавливать разработку

Гейтс не только призывает технологический сектор прекратить разработку систем ИИ. В эссе, опубликованном в его Gates Notes в августе, он заявил, что искусственный интеллект «либо станет величайшим уравнителем возможностей из когда-либо изобретенных, либо худшим источником несправедливости».

Он также отметил, что, вероятно, поддержал бы достоверный план глобального замедления разработки ИИ, хотя он не был уверен, что такой план может быть эффективным, поскольку существуют как экономические, так и политические причины для продолжения разработки.

Таким образом, его позиция на самом деле не сводится просто к прекращению новых разработок; скорее, она заключается в подготовке компаний, правительств и частных лиц, пока технология ИИ находит свое применение в таких областях, как медицина, право, программное обеспечение и обслуживание клиентов.

Рынок стоимостью $1 триллион, ожидающий правил

Дебаты о мерах защиты разворачиваются на фоне притока денег в ИИ, что делает ставки намного выше для любых новых правил. Goldman Sachs ожидает, что глобальные инвестиции в ИИ превысят 1 триллион долларов в 2026 году, включая около 581 миллиарда долларов в США, в то время как совокупные инвестиции с 2022 года могут приблизиться к 1,8 триллиона долларов к концу года.

Несмотря на этот рост инвестиций в ИИ, Microsoft заявляет, что не все пользовались равным доступом к его преимуществам и выгодам. Данные о распространении ИИ от Microsoft показывают растущий разрыв между Глобальным Севером и Глобальным Югом, в то время как ОЭСР подчеркивает, что потенциал ИИ все еще ограничен несколькими странами и компаниями.

Это делает регулирование еще более сложным балансом. Лучшие меры защиты могут снизить риски, но для небольших лабораторий и менее богатых стран дополнительные затраты на соблюдение этих правил могут оказаться очень тяжелым бременем.

Уже формируется лоскутное регулирование

Призыв к более строгим правилам поддерживается растущим объемом доказательств. Международный отчет о безопасности ИИ 2026, написанный под руководством лауреата премии Тьюринга Йошуа Бенгио и созданный более чем 100 экспертами в этой области, описывает существующие опасности и потенциальные будущие угрозы, исходящие от растущих возможностей систем ИИ.

Тем временем правительства уже создают регулирование вокруг этих рисков. Согласно TRM Labs, формируется новая глобальная «лоскутная» система регулирования ИИ, поскольку разные страны принимают различные подходы к управлению ИИ, внедрению и подотчетности.

Европейский Союз продвигал реализацию таких целей более агрессивно, чем большинство других стран. Согласно Закону ЕС об ИИ, поставщики ИИ общего назначения должны соблюдать строгие обязательства в отношении документации, авторского права и прозрачности в отношении обучающих данных. Модели, использующие более 10^25 FLOP, считаются несущими системные риски, что соответствует дополнительным критериям оценки моделей, управления рисками, сообщения об инцидентах и кибербезопасности.

С увеличением регулирования растет и сумма, которую корпорации тратят на соблюдение этих правил. Согласно Gartner, к 2027 году расходы организаций на обеспечение безопасности ИИ увеличатся на 68,7% и достигнут почти 4,8 миллиарда долларов, с прогнозом приближения к 7,7 миллиарда долларов в 2028 году.

Вашингтон, похоже, также движется к более надежной нормативной базе. Как сообщило Cryptopolitan, переговорщики в Сенате рассматривают двустороннюю инициативу по установлению «долга заботы» для разработчиков ИИ, что может позволить правительству предотвратить выпуск небезопасных моделей. Если это будет одобрено, это переведет механизм защиты, который призывает Гейтс, из сферы добровольных обязательств в юридически обязывающие обязанности.