Билл Гейтс призывает к законодательному закреплению мер защиты ИИ, поскольку объем глобальных инвестиций превысил 1 триллион долларов

Билл Гейтс предупредил, что компаниям, работающим в сфере искусственного интеллекта, не следует разрешать саморегулирование, и призвал Вашингтон установить правила безопасности.

Сооснователь Microsoft изложил свои аргументы в интервью телеканалу NBC News, опубликованном 25 сентября, за два дня до выхода полной версии интервью в эфир программы «Meet the Press».

Он сделал это предупреждение в то время, когда Goldman Sachs прогнозирует, что глобальные инвестиции в ИИ превысят 1 триллион долларов в 2026 году. Это означает, что новые правила безопасности могут привести к серьезным последствиям для разработчиков, инвесторов и компаний, работающих над внедрением новых систем безопасности для обеспечения соблюдения этих правил.

«Никто не считает, что саморегуляции достаточно»

Когда модератор Кристен Уэлкер задала вопрос о необходимости действий со стороны Конгресса, Гейтс ответил: «Безусловно».

По словам Гейтса, «никто не считает, что саморегулирования достаточно». Он полагает, что законодатели и правоохранительные органы должны разработать defiзаконы о том, как компании, занимающиеся ИИ, отслеживают риски и какие меры защиты они должны принимать. Он охарактеризовал обязанности разработчиков как «небольшую дополнительную нагрузку», а не как фактор, замедляющий прогресс.

Его опасения выходят далеко за рамки обычного злоупотребления. По словам Гейтса в интервью NBC, ИИ «безусловно, достаточно мощен, чтобы вызывать события, которые, знаете ли, приводят к миллиарду смертей», особенно когда эти передовые системы попадают в руки людей со злыми намерениями.

У лидеров отрасли разные мнения о том, насколько далеко должны заходить эти меры защиты. Генеральный директор Anthropic Дарио Амодей предложил идею «полного замедления темпа или даже «паузы»» как наиболее радикальный вид коллективного замедления. Генеральный директор OpenAI Сэм Альтман выразил аналогичную обеспокоенность, утверждая, что «замедление темпа окупится с лихвой» и что стремление опередить конкурентов не должно быть оправданием для безрассудных действий.

Однако генеральный директор Meta Марк Цукерберг придерживается иного мнения. В интервью NBC News он заявил: «Я не думаю, что нам нужна какая-либо координация в масштабах всей отрасли». Он предпочитает, чтобы лаборатории замедляли работу только тогда, когда чувствуют, что существует риск возникновения проблем с безопасностью.

Гейтс хочет, чтобы риски управлялись, а не чтобы развитие было остановлено

Гейтс не просто призывает технологический сектор прекратить разработку систем искусственного интеллекта. В эссе, опубликованном в августе в его «Заметках Гейтса», он заявил, что искусственный интеллект «станет либо величайшим уравнителем из когда-либо изобретенных, либо худшим источником несправедливости».

Он также отметил, что, вероятно, поддержал бы убедительный план глобального замедления развития ИИ, хотя и не был убежден в его эффективности, поскольку существуют как экономические, так и политические причины для продолжения развития.

Таким образом, его позиция заключается не просто в прекращении новых разработок; она, скорее, направлена ​​на подготовку компаний, правительств и отдельных лиц к тому моменту, когда технологии искусственного интеллекта найдут применение в таких областях, как медицина, юриспруденция, программное обеспечение и обслуживание клиентов.

Рынок объемом 1 триллион долларов ожидает принятия правил

Дискуссия о мерах защиты разворачивается одновременно с притоком денег в ИИ, что значительно повышает ставки в отношении любых новых правил. Goldman Sachs прогнозирует, что глобальные инвестиции в ИИ превысят 1 триллион долларов в 2026 году, включая около 581 миллиарда долларов в США, а совокупные инвестиции с 2022 года могут приблизиться к 1,8 триллиона долларов к концу года.

Несмотря на рост инвестиций в ИИ, Microsoft заявляет, что не все имеют enjдоступ к его преимуществам и выгодам. Данные Microsoft о распространении ИИ показывают растущий разрыв между странами Глобального Севера и Глобального Юга, в то время как ОЭСР подчеркивает, что потенциал ИИ по-прежнему ограничен лишь несколькими странами и компаниями.

Это делает регулирование еще более сложной задачей, требующей баланса. Более надежная защита могла бы снизить риски, но для небольших лабораторий и менее обеспеченных стран дополнительные затраты на соблюдение этих правил могут оказаться очень высокими.

Уже формируется своего рода лоскутное одеяло из нормативных актов

Призывы к ужесточению регулирования подкрепляются растущим числом доказательств. Международный доклад о безопасности ИИ за 2026 год, написанный под руководством лауреата премии Тьюринга Йошуа Бенджио и подготовленный более чем 100 экспертами в этой области, описывает существующие опасности и потенциальные будущие угрозы, связанные с растущими возможностями систем искусственного интеллекта.

Между тем, правительства уже разрабатывают нормативные акты, касающиеся этих рисков. По данным TRM Labs, в разных странах формируется новая глобальная «лоскутная» система регулирования ИИ, поскольку они применяют различные подходы к управлению, внедрению и подотчетности в сфере ИИ.

Европейский союз более активно, чем большинство других стран, продвигает реализацию таких целей. Согласно Закону ЕС об искусственном интеллекте, поставщики универсальных систем ИИ должны соблюдать строгие обязательства в отношении документации, авторских прав и прозрачности в отношении обучающих данных. Модели, использующие более 10^25 FLOP, рассматриваются как несущие системные риски, что соответствует дополнительным критериям оценки моделей, управления рисками, отчетности об аварияхdent кибербезопасности.

В связи с ужесточением регулирования растут и расходы корпораций на их соблюдение. По данным Gartner, к 2027 году расходы организаций на обеспечение безопасности ИИ увеличатся на 68,7% и составят почти 4,8 миллиарда долларов, а к 2028 году прогнозируется их увеличение до 7,7 миллиарда долларов.

Вашингтон, похоже, тоже движется к более надежной нормативно-правовой базе. Как сообщает Cryptopolitan, сенаторы изучают двухпартийную инициативу по установлению «обязанности проявлять должную осмотрительность» для разработчиков ИИ, что может позволить правительству предотвращать выпуск небезопасных моделей. Если эта инициатива будет одобрена, механизм защиты, за который выступает Гейтс, перейдет из сферы добровольных обязательств в сферу юридически обязательных обязанностей.