Илон Маск утверждает, что существует 20-процентная вероятность того, что искусственный интеллект уничтожит человечество

Илон Маск не слишком обеспокоен тем, что ИИ превзойдет человечество. По его словам, вероятность того, что ИИ уничтожит человечество в ближайшем будущем, составляет всего 20%. 

В новом подкасте, вышедшем в пятницу и записанном совместно с Джо Роганом, Маск сказал: «Вероятность хорошего результата [с помощью ИИ] составляет около 80%».

Это не первый раз, когда он говорит об опасностях ИИ. Ранее он упоминал о 10-20% вероятности того, что ИИ обернется против людей. 

В недавнем подкасте он также заявил, что в ближайшие два года искусственный интеллект превзойдет человеческий интеллект. Он особо отметил, что к 2029 или 2030 году ИИ станет «умнее всех людей вместе взятых»

Это соответствует его предыдущим прогнозам, но прогнозируемые сроки теперь сдвинуты дальше. В прошлом году в другом интервью с генеральным директором Norges Bank Николаем Тангеном он заявил, что существует небольшая вероятность того, что к концу 2025 года искусственный интеллект превзойдет человека по интеллекту.

Обсуждение с главой норвежского суверенного фонда Николаем Тангом (@NicolaiTang1) https://t.co/ZCR7FrsR0m

— Илон Маск (@elonmusk) 7 апреля 2024 г

Это показывает, что его принципиальное отношение к ИИ не изменилось. В интервью он сказал: «Я всегда считал, что ИИ будет намного умнее людей и представляет собой экзистенциальную угрозу», и это становится реальностью. 

Другие эксперты придерживаются схожей точки зрения на уничтожение ИИ

По словам Джеффри Хинтона, «крестного отца ИИ» и лауреата Нобелевской премии, существует 10%-ная вероятность того, что ИИ приведет к вымиранию человечества в течение следующих трех десятилетий. В интервью BBC Radio 4 он сказал: «Во всяком случае, нам никогда раньше не приходилось иметь дело с существами, более разумными, чем мы сами»

Он также добавил: «А сколько примеров вы знаете, когда более разумное существо контролируется менее разумным? Таких примеров очень мало. Есть мать и детеныш. Эволюция приложила немало усилий, чтобы позволить детенышу контролировать мать, но это, пожалуй, единственный известный мне пример»

В некотором смысле, утверждает Джеффри, люди сродни «трехлетним» малышам по сравнению с развитыми системами искусственного интеллекта. 

Аналогичным образом, во время выступления в Университете Торонто Джеффри Хинтон сказал: «Я предполагаю, что они захватят власть — они будут намного, намного умнее, чем когда-либо были люди».

Между тем, Роман Ямпилский, исследователь в области безопасности ИИ и директор по кибербезопасности, утверждает, что «вероятность катастрофы» близка к 99,999999%.

Я на 99,999999% https://t.co/vfe96PNbij

— Доктор Роман Ямпольский (@romanyam) 12 марта 2024 г

Маск занялся разработкой ИИ, став одним из 11 соучредителей OpenAI , создавшей «некоммерческую компанию с открытым исходным кодом в области ИИ», которая, по его словам, была «полной противоположностью Google». Однако впоследствии он покинул компанию из-за несоответствия приоритетов, поскольку OpenAI выбрала другой путь и стала коммерческой компанией.

Однако в прошлом году Маск предпринял два судебных иска против OpenAI. Первый иск он отозвал, а во втором утверждается, что OpenAI «предала» свою миссию, перейдя на коммерческую модель и объединившись с Microsoft. 

Маск считает, что результаты развития искусственного интеллекта будут либо крайне плохими, либо хорошими

В беседе с Джо Роганом он рассказал, что создал Grok, потому что был «недоволен» тем, как развивалась компания OpenAI. Он сделал Grok «искусственным интеллектом, стремящимся к максимальной истине, даже если эта истина политически некорректна» 

Искусственный интеллект был обучен реагировать на такие вопросы, как допустимо ли неправильное определение гендерной принадлежности Кейтлин Дженнер во избежание ядерного апокалипса и допустимо ли проявлять расизм по отношению к белым людям.

Маск предсказывает, что развитие ИИ будет либо «суперкрутым», либо «суперплохим», добавляя, что он не видит в нем «чего-то среднего»

Недавно Маск анонсировал выпуск Grok 3, который, как утверждается, демонстрирует лучшие результаты в различных тестах по программированию, науке и математике, чем GPT-4o от OpenAI, Gemini от Google, V3 от DeepSeek и Claude 3.5 от Anthropic. 

Всего за неделю до выхода в свет Илон Маск назвал Grok 3 «пугающе умным» во время Всемирного саммита правительств в Дубае. Аналогично, на презентации Grok 3 он сказал: «Grok — это понимание Вселенной» 

Тем не менее, бета-версия Grok 3 допустила несколько ошибок, например, предложила смертную казнь для Дональда Трампа и подвергла цензуре критику в адрес Илона Маска. Глава инженерного отдела xAI Игорь Бабушкин назвал это «действительно ужасным и плохим провалом Grok»