Илон Маск говорит, что есть 20% шанс, что ИИ уничтожит человечество

Илон Маск не слишком обеспокоен тем, что ИИ превзойдет людей. По его словам, есть лишь 20% шанс, что ИИ уничтожит человечество в ближайшем будущем. 

Говоря с Джо Роганом в новом подкасте, выпущенном в пятницу, Маск сказал: «Вероятность хорошего исхода [с ИИ] составляет около 80%».

Это не первый раз, когда он говорит об опасностях ИИ. Ранее он упоминал вероятность от 10% до 20% того, что ИИ повернется против людей. 

В недавнем подкасте он также сказал, что в ближайшие два года ИИ превзойдет человеческий интеллект. Он конкретно упомянул, что к 2029 или 2030 году ИИ будет «умнее всех людей вместе взятых».

Это соответствует его предыдущим прогнозам, но предсказанное время теперь было отодвинуто дальше. В прошлом году, в другом интервью с генеральным директором Norges Bank Николасом Тангеном, он сказал, что есть небольшая вероятность того, что ИИ превзойдет людей в интеллекте к концу 2025 года.

Обсуждение с главой суверенного фонда Норвегии, @NicolaiTang1 https://t.co/ZCR7FrsR0m

— Илон Маск (@elonmusk) 16 апреля 7, 2024

Это показывает, что его фундаментальный взгляд на ИИ не изменился. Он сказал в интервью: «Я всегда думал, что ИИ будет намного умнее людей и представляет экзистенциальный риск», и это становится реальностью. 

Другие эксперты имеют схожий взгляд на уничтожение человечества ИИ

Согласно Джеффри Хинтону, «отцу ИИ» и лауреату Нобелевской премии, есть 10% шанс, что ИИ вызовет вымирание человечества в ближайшие три десятилетия. Он сказал во время интервью BBC Radio 4: «Если вообще. Видите ли, мы никогда раньше не имели дело с вещами, более умными, чем мы сами».

Он далее добавил: «И сколько примеров вы знаете, когда более умная вещь контролируется менее умной вещью? Есть очень мало примеров. Есть мать и ребенок. Эволюция проделала большую работу, позволяя ребенку контролировать мать, но это, пожалуй, единственный пример, который я знаю».

Своей позицией Джеффри утверждает, что люди подобны «трехлетним» малышам по сравнению с продвинутыми системами искусственного интеллекта. 

Аналогичным образом, во время академической лекции в Университете Торонто Джеффри Хинтон сказал: «Мое предположение заключается в том, что они захватят власть — они будут намного, намного умнее, чем когда-либо были люди», — сказал Хинтон.

Тем временем Роман Ямпольский, исследователь безопасности ИИ и директор по кибербезопасности, заявляет, что «вероятность конца света» близка к 99,999999%.

Я нахожусь на 99.999999% https://t.co/vfe96PNbij

— Д-р Роман Ямпольский (@romanyam) Март 12, 2024

Маск вовлекся в разработку ИИ, когда стал одним из 11 соучредителей OpenAI для создания «некоммерческого ИИ с открытым исходным кодом», который, по его словам, был «противоположностью Google». Однако он позже покинул компанию из-за несоответствия приоритетов, так как OpenAI выбрала другой путь, чтобы стать коммерческой компанией.

Однако в прошлом году Маск предпринял два судебных иска против OpenAI. Он отозвал первый иск, а во втором утверждается, что OpenAI «предала» свою миссию, перейдя на коммерческую модель и объединившись с Microsoft. 

Маск считает, что результат развития ИИ будет либо крайне плохим, либо крайне хорошим

Он рассказал Джо Рогану, что создал Grok, потому что был «недоволен» тем, как развивалась OpenAI. Он сделал Grok «максимально стремящимся к истине ИИ, даже если эта истина политически некорректна». 

ИИ обучен отвечать на вопросы вроде того, допустимо ли использовать неправильные местоимения по отношению к Кэйтлин Дженнер, чтобы избежать ядерной апокалипсиса, и допустима ли расовая дискриминация белых людей.

Маск предсказывает, что развитие ИИ будет либо «супер крутым», либо «супер плохим», добавляя, что не видит промежуточного варианта.

Недавно Маск объявил о выпуске Grok 3, который, как утверждается, показывает лучшие результаты в различных тестах по программированию, науке и математике, чем GPT-4o от OpenAI, Gemini от Google, V3 от DeepSeek и Claude 3.5 от Anthropic.

Всего за неделю до релиза Илон Маск назвал Grok 3 «пугающе умным» во время Всемирного саммита правительств в Дубае. Аналогичным образом, на презентации запуска Grok 3 он сказал: «Grok призван понять вселенную». 

Однако бета-версия Grok 3 допустила несколько ошибок, таких как предложение смертной казни для Дональда Трампа и цензура критики в адрес Илона Маска. Глава отдела инженерии xAI Игорь Бабучкин назвал это «действительно ужасным и плохим провалом со стороны Grok».