Виталик Бутерин говорит, что борьба за рабочие места в сфере ИИ зависит от того, что люди подразумевают под сверхинтеллектом

Сооснователь Ethereum Виталик Бутерин утверждает, что большая часть публичных споров о передовом искусственном интеллекте возникает из-за того, что обе стороны придерживаются предположений, которые на самом деле никогда не разделяли. 

Предложение Бутерина о «аварийном отключении» всех приложений ИИ вызвало критику, поскольку в технологическом сообществе разгорелись очередные дебаты о том, насколько быстро будет развиваться ИИ и что это будет означать для рынка труда. 

Что является движущей силой дискуссии об искусственном интеллекте? 

В сообщении на Ethereum сооснователь  X Виталик Бутерин заявил, что столкновение между сторонниками сценария «ИИ 2040» и его критиками сводится к тому, насколько быстрым и значительным будет прогресс в области ИИ

Концепция ИИ 2040 предполагает, что к 2040 году появится какой-либо вид сверхинтеллекта, если этому не будут препятствоватьtronмеры. Между тем, критики считают, что сторонники ИИ 2040 недооценивают возможности человеческой координации и угрожают свободе, но они не рассматривают сам сверхинтеллект как угрозу концентрации власти.

Бутерин признал, что не знает, какой сценарий ближе к реальности. «Если бы я былdent , что (современный) ИИ — это нормальная технология, я бы был в лагереtrac. Если бы я былdent , что сверхинтеллект появится в 2030 году по умолчанию, я бы был ближе к лагерю сторонников ИИ 2040», — написал он. 

Однако соучредитель по-прежнему готов замедлить или приостановить разработку ИИ, если риски станут значительными.

В дискуссии приняли участие исследователь в области искусственного интеллекта Ян ЛеКун, писатель Дэниел Джеффрис и политический аналитик Адам Тирер. 

Ян ЛеКун, главный научный сотрудник Meta (NASDAQ: META) в области искусственного интеллекта, утверждает, что безопасность ИИ — это, по сути, инженерная проблема , которую можно решить путем тщательного итеративного проектирования, подобно тому, как была разработана надежная работа реактивных двигателей. 

ЛеКун отметил, что для создания по-настоящему безопасных самолетов потребовалось «50 лет», и что опасения по поводу ИИ преждевременны, поскольку мы еще не создали систему, способную достичь уровня человеческого интеллекта. Он последовательно утверждал, что большие языковые модели представляют собой ограниченные «машины автозаполнения», которым не хватает логического мышления и причинно-следственного понимания. 

Гарри Хок, пишущий под ником @hhawk, заявил, что разделяет точку зрения Янна Лекуна и считает, что будущие системы искусственного интеллекта будут проектироваться с учетом требований безопасности, как и самолеты. Он также сказал, что не верит, что ИИ и роботы будут делать все, оставляя после себя работу или рабочие места.

Бутерин ответил, что такая точка зрения отрицает существование «искусственного интеллекта, настолько мощного, что один только ИИ может выполнять любую задачу», который он называет ИИ-искусственным интеллектом.

Как можно управлять мощными системами искусственного интеллекта?

Бутерин предложил «план А», который предусматривает широкомасштабное правило, обязывающее всех открыто рассказывать о том, что они создают, а также аварийный выключатель, который может замедлить или остановить масштабное обучение ИИ, если ситуация станет опасной.

Он добавил, что «наивные интеллектуалы с благими намерениями», которые считают, что могут выбирать, какие виды использования ИИ допустимы, а какие нет, будут противодействовать этому плану. 

Ромео Дин, который спровоцировал часть обсуждения Бутерина, назвал этот подход «довольно разумным», но сказал, что, по его мнению, срабатывание триггеров произойдет слишком поздно. Он добавил, что не понимает «огромных недостатков», которые критики связывают с планом А.

Бутерин признал, что идеального решения не существует. «Я не вижу ни одного плана по преодолению последствий сверхинтеллектуального перехода, который не был бы наивным», — написал он. «Возможно, человечество застряло перед выбором между наивностью и наивностью в квадрате»

Отчет «Искусственный интеллект 2040: План А» подготовлен бывшим сотрудником OpenAI Даниэлем Кокотайло в рамках проекта AI Futures Project. 

В докладе говорится, что США и Китай должны сотрудничать, чтобы отложить развитие сверхинтеллекта до 2040 года. Обе страны должны будут открыто делиться всеми своими исследованиями. Также рассматривается система, основанная на логике ядерной войны, в которой обе стороны при необходимости могут уничтожить вычислительные мощности друг друга. Это называется «взаимным гарантированным уничтожением вычислительных мощностей».

Ричард Нго, исследователь в области искусственного интеллекта, заявил, что в докладе слишком много внимания уделяется опасениям по поводу скорого появления ИИ. Он также отметил, что в нем недостаточно учитывается, какие политические проблемы ИИ может вызвать внутри каждой страны.

Являются ли модели с открытым исходным кодом решением проблемы?

В основе всей дискуссии лежит вопрос о статусе моделей с открытым исходным кодом. 9 июля ЛеКун написал, что наибольший риск для ИИ заключается в «концентрации власти» в руках нескольких доминирующих компаний. Он также написал, что «единственное решение проблемы суверенитета ИИ — это модели с открытым исходным кодом». Его пост собрал более 2900 лайков и более 430 репостов.

Автор Дэниел Джеффрис, написавший статью в тот же день, заявил, что модели с открытым исходным кодом лежат в основе американских технологий, и предостерег от «близоруких сторонников безопасности и ястребов», стремящихся ограничить их. 

Аналитик по вопросам политики Адам Тирер, старший научный сотрудник Института R Street и автор известного доклада, представленного целевой группой Палаты представителей по вопросам ИИ, предупредил, что управление ИИ в США находится на «критическом перепутье». 

Он отметил, что в настоящее время Конгресс использует хаотичный, случайный и секретный процесс проверки ИИ. Он предупредил, что если эта неформальная система будет развиваться, а прогресс будет блокироваться за счет специальных разрешений, это уничтожит ИИ с открытым исходным кодом. 

Вместо жестких правил Тирер предлагает подход «инноваций без разрешений», при котором людям будет разрешено свободно создавать и выпускать ИИ. Он считает, что существующие законы следует использовать для наказания за причиненный вред в случае необходимости, а также поддерживает такие меры, как создание тестовых зон для новых моделей ИИ, требование о том, чтобы некоторые модели оставались открытыми, и выделение большего финансирования на исследования в области ИИ.