Виталик Бутерин говорит, что борьба за рабочие места в сфере ИИ зависит от того, что люди подразумевают под суперинтеллектом

Сооснователь Ethereum Виталик Бутерин утверждает, что большая часть публичных споров о продвинутом ИИ возникает из-за того, что обе стороны придерживаются предположений, которых они на самом деле не разделяют. 

Предложение Виталика Бутерина о «аварийном выключателе» для всех приложений ИИ было встречено критикой, поскольку технологическое сообщество вступает в еще одну дискуссию о том, насколько быстро будет развиваться ИИ и что это означает для рабочей силы. 

Что движет дебатами об ИИ? 

В публикации в X, сооснователь Ethereum Виталик Бутерин сказал, что столкновение между сторонниками сценария «ИИ 2040» и его критиками сводится к тому, насколько быстро и значительно будет прогресс ИИ. 

Фреймворк ИИ 2040 предполагает, что суперинтеллект какого-либо вида появится к 2040 году, если не будут приняты сильные меры. Тем временем критики считают, что сторонники ИИ 2040 недооценивают способность человеческой координации и угрожают свободе, но они не рассматривают сам суперинтеллект как риск концентрации власти.

Бутерин признал, что не знает, какой сценарий ближе к реальности. «Если бы я был уверен, что ИИ (в современном стиле) — это обычная технология, я бы был в лагере противников. Если бы я был уверен, что суперинтеллект появится по умолчанию в 2030 году, я бы был ближе к лагерю ИИ 2040», — написал он. 

Но сооснователь остается открытым к замедлению или приостановке разработки ИИ, если риски станут значительными.

В дебаты втянули исследователя ИИ Янна Лекюна, автора Дэниела Джеффриса и аналитика политики Адама Тирьера. 

Янн Лекюн, главный научный сотрудник ИИ Meta (NASDAQ: META), утверждает, что безопасность ИИ по своей сути является инженерной проблемой которую можно решить посредством тщательного итеративного проектирования, подобно тому, как двигатели реактивных самолетов стали надежными. 

Лекюн указал, что «потребовалось 50 лет», чтобы сделать авиацию по-настоящему безопасной, и что страх перед ИИ преждевременен, когда мы еще не создали систему, способную к интеллекту на уровне человека. Он последовательно утверждал, что большие языковые модели — это ограниченные «машины автозаполнения», лишенные рассуждений и причинно-следственного понимания. 

Гарри Хоук, публикующийся как @hhawk, сказал, что он согласен с Янном Лекюном и считает, что будущие системы ИИ будут спроектированы с учетом безопасности, как самолеты. Он также сказал, что не верит, что ИИ и роботы будут делать все, не оставляя работы или рабочих мест.

Бутерин ответил, что эта перспектива отрицает существование «ИИ настолько мощного, что ИИ сам может выполнять любую задачу», который он называет ASI (Artificial Superintelligence).

Как можно контролировать мощные системы ИИ?

Бутерин предложил «план А», который предлагает всеобъемлющее правило, заставляющее всех открыто сообщать о том, что они строят, плюс аварийный выключатель, который может замедлить или остановить обучение крупного ИИ, если дела станут опасными.

Он добавил, что «наивные доброжелательные интеллектуалы», которые думают, что могут выбирать, какие использования ИИ допустимы, а какие нет, будут сопротивляться этому плану. 

Ромео Дин, который инициировал часть треда Бутерина, назвал подход «довольно разумным», но сказал, что его триггеры сработают слишком поздно в его мировоззрении. Он добавил, что не понимает «масштабных недостатков», которые критики приписывают плану А.

Бутерин признал, что идеального решения нет. «Я не вижу ни одного плана того, как справиться с переходом к ASI, который не был бы наивным», — написал он. «Возможно, человечество застряло с выбором между наивным и наивным в квадрате».

Отчет «ИИ 2040: План А» поступил от проекта AI Futures Project бывшего сотрудника OpenAI Дэниела Кокотайло. 

В отчете говорится, что США и Китай должны работать вместе, чтобы отсрочить появление суперинтеллекта до 2040 года. Обе страны должны будут открыто делиться всеми своими исследованиями. Он также включает систему, основанную на логике ядерной войны, где обе стороны могут уничтожать вычислительную мощность друг друга, если это необходимо. Они называют это «взаимно гарантированным уничтожением вычислительных мощностей».

Ричард Нго, исследователь ИИ, сказал, что отчет слишком обеспокоен скорым появлением ИИ. Он также сказал, что он недостаточно думает о том, сколько политических проблем может вызвать ИИ внутри каждой страны.

Являются ли модели с открытым исходным кодом решением?

Под всем спором стоит статус моделей с открытым исходным кодом. Лекюн написал 9 июля, что biggest risk ИИ — это «концентрация власти» в нескольких доминирующих компаниях. Он также написал, что «единственное решение для суверенитета ИИ — это модели с открытым исходным кодом». Его пост получил более 2900 лайков и более 430 репостов.

Автор Дэниел Джеффрис, писавший в тот же день, сказал, что модели с открытым исходным кодом лежат в основе американских технологий и предупредил против «краткосрочно мыслящих защитников безопасности и ястребов», стремящихся ограничить их. 

Аналитик политики Адам Тирьер, старший научный сотрудник института R Street и автор заметного представления в отчете рабочей группы Конгресса по ИИ, предупредил, что управление ИИ в США находится на «критическом перекрестке». 

Он указал, что Конгресс в настоящее время использует беспорядочный, случайный и секретный процесс для проверки ИИ. Он предупредил, что если эта неформальная система разрастется и прогресс будет заблокирован за особыми разрешениями, это уничтожит ИИ с открытым исходным кодом. 

Вместо жёстких правил Тьерер предлагает подход «инноваций без разрешения», при котором людям будет разрешено свободно создавать и выпускать ИИ. Он предлагает использовать существующие законы для наказания за причинённый вред, когда это необходимо, а также поддерживает такие меры, как создание тестовых зон для нового ИИ, требование об открытости некоторых моделей и увеличение финансирования исследований в области ИИ.