Исследователи в области искусственного интеллекта предполагают 5%-ную вероятность вымирания человечества из-за развития ИИ

В ходе недавнего опроса, проведенного среди 2700 исследователей в области искусственного интеллекта (ИИ), опубликовавших свои работы на шести ведущих конференциях по ИИ, выяснилось, что почти 58%dentсчитают, что существует 5%-ная вероятность того, что ИИ приведет к вымиранию человечества или другим катастрофическим последствиям.

В ходе исследования также были изучены сроки достижения технологических этапов в развитии ИИ и их потенциальные социальные последствия. Несмотря на неопределенность и разногласия среди исследователей, эти результаты проливают свет на опасения в сообществе ИИ относительно потенциальных рисков, связанных с развитием сверхчеловеческого ИИ.

Исследователи выражают осторожность в отношении риска исчезновения искусственного интеллекта

Катя Грейс, автор исследования и научный сотрудник Института исследований машинного интеллекта в Калифорнии, подчеркнула значимость убеждения в том, что риск, исходящий от развитого ИИ, не является ничтожным. Грейс заявила: «Это важный сигнал, что большинство исследователей ИИ не считаютtronмаловероятным, что развитый ИИ уничтожит человечество». Однако, по словам Эмиля Торреса, ученого из Университета Кейс Вестерн Резерв в Огайо, непосредственных причин для тревоги нет.

Торрес предостерег от чрезмерной реакции на опросы экспертов, отметив, что они не обладаютtronже tracточностью прогнозирования развития ИИ. Предыдущее исследование 2012 года показало, что прогнозы экспертов в области ИИ не более надежны, чем общественное мнение. Авторы текущего исследования также указали на то, что исследователи в области ИИ могут не обладать достаточной экспертизой для прогнозирования будущей траектории развития ИИ.

Ускоренное достижение промежуточных результатов и более ранние прогнозы

По сравнению с результатами аналогичного опроса 2022 года, многие исследователи в области ИИ в последнем исследовании предположили, что ИИ достигнет определенных этапов раньше, чем прогнозировалось ранее. Эти прогнозы совпали с запуском в ноябре 2022 года передовых сервисов чат-ботов на основе ИИ, таких как ChatGPT, и быстрым внедрением аналогичных моделей ИИ в Кремниевой долине.

Исследователи прогнозируют вероятность того, что системы искусственного интеллекта успешно справятся с различными задачами в течение следующего десятилетия, на уровне 50% или выше. К таким задачам относятся создание песен, неотличимых от песен популярных исполнителей, таких как Тейлор Свифт, и разработка с нуля целых веб-сайтов для обработки платежей. Однако другие сложные задачи, такие как физическая прокладка электропроводки в домах или решение давнихmaticзагадок, предположительно займут больше времени.

Вероятность того, что искусственный интеллект превзойдет человеческие возможности во всех задачах к 2047 году, оценивалась в 50%, а вероятность полной автоматизации всех рабочих мест для людей — в 50% к 2116 году. Эти оценки указывают на ускорение на 13 и 48 лет соответственно по сравнению с результатами опроса предыдущего года.

Непредсказуемые прорывы в области ИИ и насущные проблемы

Несмотря на завышенные ожидания, связанные с развитием ИИ, Эмиль Торрес выразил осторожность в отношении непредсказуемости технологических прорывов. Торрес отметил, что в 1970-х и 80-х годах область ИИ уже переживала периоды снижения финансирования и интереса со стороны корпораций, которые назывались «зимами ИИ».

Кроме того, исследователи ИИ подчеркнули насущные проблемы, такие как злоупотребление ИИ, включая дипфейки, манипулирование общественным мнением, разработку искусственного оружия, авторитарный контроль над населением и усугубление экономического неравенства. Торрес также подчеркнул потенциальную опасность того, что ИИ способствует распространению дезинформации по таким важным вопросам, как изменение климата и демократическое управление.

Опрос исследователей в области искусственного интеллекта выявил значительный уровень обеспокоенности в сообществе ИИ по поводу потенциальных рисков, связанных с развитием передовых технологий ИИ. Хотя точный процент риска того, что ИИ приведет к вымиранию человечества, остается неопределенным, убеждение в наличии значительного риска подчеркивает необходимость постоянного учета этических аспектов и требований безопасности при разработке ИИ.

Несмотря на прогнозы ускоренного развития ИИ, исследователи признают непредсказуемость технологических достижений и подчеркивают неотложные проблемы, такие как злоупотребление ИИ и его влияние на общество. По мере дальнейшего развития ИИ исследователи, политики и общество в целом должны активно и ответственно решать эти проблемы.