Исследователи ИИ предполагают 5% шанс исчезновения человечества из-за продвинутого ИИ

В недавнем опросе среди 2700 исследователей искусственного интеллекта (ИИ), опубликовавших работы на шести ведущих конференциях по ИИ, было выявлено, что почти 58% респондентов считают, что существует 5% шанс того, что ИИ приведет к исчезновению человечества или другим катастрофическим последствиям.

Опрос также исследовал временные рамки технологических вех ИИ и их потенциальные социальные последствия. Несмотря на неопределенность и разногласия среди исследователей, эти результаты проливают свет на опасения в сообществе ИИ относительно потенциальных рисков, связанных с разработкой сверхчеловеческого ИИ.

Исследователи выражают осторожность по поводу риска исчезновения человечества из-за ИИ

Катя Грейс, автор опроса и исследователь из Института исследований машинного интеллекта в Калифорнии, подчеркнула значимость веры в неминимальный риск, создаваемый продвинутым ИИ. Грейс заявила: «Это важный сигнал о том, что большинство исследователей ИИ не считают сильно неправдоподобным, что продвинутый ИИ уничтожит человечество». Однако, по мнению Эмиля Торреса, ученого из Университета Кейс Вестерн Резерв в Огайо, немедленной причины для паники нет.

Торрес предостерегал от чрезмерной реакции на экспертные опросы, отметив, что они не имеют сильной истории точного прогнозирования развития ИИ. Предыдущее исследование 2012 года показало, что прогнозы экспертов ИИ не были более надежными, чем общественное мнение. Авторы текущего опроса также указали, что исследователи ИИ могут не обладать экспертизой в прогнозировании будущего траектории развития ИИ.

Ускоренные вехи и более ранние прогнозы

По сравнению с версией того же опроса 2022 года, многие исследователи ИИ в последнем опросе предсказали, что искусственный интеллект достигнет определенных вех раньше, чем предполагалось ранее. Эти прогнозы совпали с запуском в ноябре 2022 года продвинутых сервисов чат-ботов на базе ИИ, таких как ChatGPT, и быстрым развертыванием аналогичных моделей ИИ в Кремниевой долине.

Исследователи предвидели вероятность 50% или выше того, что системы ИИ успешно справятся с различными задачами в течение следующего десятилетия. Эти задачи включали создание песен, неотличимых от произведений таких популярных исполнителей, как Тейлор Свифт, и разработку с нуля целых сайтов для обработки платежей. Однако выполнение других сложных задач, таких как физическая установка электропроводки в домах или решение давних математических загадок,预计 займет больше времени.

Вероятность того, что ИИ превзойдет человека во всех задачах, оценивалась в 50% к 2047 году, а вероятность полной автоматизации всех человеческих профессий — в 50% к 2116 году. Эти оценки отмечают ускорение на 13 и 48 лет соответственно по сравнению с опросом предыдущего года.

Непредсказуемые прорывы ИИ и немедленные опасения

Несмотря на повышенные ожидания, связанные с развитием ИИ, Эмиль Торрес выразил осторожность в отношении непредсказуемости технологических прорывов. Торрес отметил, что в области ИИ ранее наблюдались периоды снижения финансирования и корпоративного интереса, известные как «зимы ИИ», в 1970-х и 80-х годах.

Кроме того, исследователи ИИ выделили немедленные проблемы, такие как злоупотребление ИИ, включая создание дипфейков, манипулирование общественным мнением, разработку инженерного оружия, авторитарный контроль над населением и усугубление экономического неравенства. Торрес также подчеркнул потенциальную опасность того, что ИИ может способствовать распространению дезинформации по критическим вопросам, таким как изменение климата и демократическое управление.

Опрос исследователей ИИ выявляет высокий уровень обеспокоенности в сообществе ИИ относительно потенциальных рисков, связанных с развитием продвинутого ИИ. Хотя точный процент риска того, что ИИ приведет к вымиранию человечества, остается неопределенным, вера в неминимальный риск подчеркивает необходимость постоянных этических соображений и вопросов безопасности в разработке ИИ.

Несмотря на ускоренные прогнозы в отношении вех ИИ, исследователи признают непредсказуемость технологических достижений и подчеркивают немедленные проблемы, такие как злоупотребление ИИ и его воздействие на общество. По мере дальнейшего развития ИИ исследователи, политики и общество в целом должны proactively и ответственно решать эти вызовы.