Бывший генеральный директор Google Эрик Шмидт предостерегает от «проекта в стиле Манхэттена» в области развития искусственного интеллекта

В опубликованном в среду аналитическом документе бывший генеральный директор Google Эрик Шмидт предупредил, что США не следует настаивать на проекте по разработке систем искусственного интеллекта по образцу Манхэттенского проекта. 

В статье «Стратегия сверхинтеллекта» упоминалось, что агрессивная борьба за контроль над сверхинтеллектуальными системами искусственного интеллекта может привести к ответным мерам со стороны таких стран, как Китай. Такие ответные меры могут принять форму кибератак, напрямую влияющих на международные отношения. 

Соавторами аналитического документа выступили генеральный директор Scale AI Александр Ван и директор Центра безопасности ИИ Дэн Хендрикс. Соавторы написали: «Манхэттенский проект [для общего искусственного интеллекта] предполагает, что конкуренты смирятся с сохраняющимся дисбалансом или всеобщим уничтожением, вместо того чтобы предпринять шаги для его предотвращения» 

Авторы также добавили: «То, что начинается как стремление к сверхмощному оружию и глобальному контролю, рискует спровоцировать враждебные контрмеры и эскалацию напряженности, тем самым подрывая саму стабильность, которую, как предполагается, должна обеспечить эта стратегия»

Эта статья появилась всего через несколько месяцев после того, как Комиссия Конгресса США предложила схему финансирования разработки искусственного интеллекта по образцу «Манхэттенского проекта». Проект создан по образцу усилий США по разработке атомной бомбы в 1940-х годах. 

Крис Райт, министр энергетики США, упомянул , что США вот-вот начнут «новый Манхэттенский проект» в области искусственного интеллекта. Он сказал: «Под руководством президентаdent Соединенные Штаты выиграют глобальную гонку в области ИИ, но сначала мы должны раскрыть наше энергетическое превосходство и восстановить конкурентоспособность Америки».

Ряд американских лидеров отрасли и политиков высказали мнение, что реализация государственной программы развития искусственного интеллекта — лучший способ конкурировать с такими странами, как Китай. Однако в документе «Стратегия сверхразума» эта идея оспаривается. 

Эрик Шмидт называет это взаимным гарантированным уничтожением 

Автор утверждал, что, подобно тому как мировые державы избегают монополий на ядерное оружие (поскольку это может спровоцировать ответные меры в виде превентивного саботажа), США следует проявлять осторожность, пытаясь доминировать с помощью мощных систем искусственного интеллекта.

Эрик Шмидт рассказал о концепции, называемой MAIM (взаимная гарантированная неисправность ИИ). Она относится к ситуации, когда правительства других стран активно пытаются нейтрализовать угрозы, основанные на ИИ, вместо того, чтобы ждать, пока общий искусственный интеллект будет использован против них в качестве оружия. 

Авторы утверждали, что вместо того, чтобы сосредотачиваться на «победе в гонке за сверхразум», США следует разработать методы, которые будут препятствовать созданию подобных систем другими странами. Они также добавили, что США следует «расширить свой арсенал кибератак для вывода из строя угрожающих проектов в области искусственного интеллекта»

Однако администрация Трампа, похоже, непреклонна в своем стремлении продвинуть США вперед в гонке за искусственный интеллект. Шмидт, однако, утверждает, что разумнее придерживаться оборонительной позиции, поскольку мир наблюдает за тем, как США доводят ИИ до предела его возможностей.