Эксперты говорят, что продвинутый ИИ может создать экстремальные новые риски, говорится в отчете перед саммитом по ИИ

Недавно опубликованный Международный научный отчет о безопасности продвинутого ИИ показывает, что продвинутый ИИ может быть катастрофическим и оставить за собой след боли и страданий для людей.

Согласно AP, это первый в своем роде международный отчет, опубликованный в среду перед саммитом по ИИ в Париже в феврале, в котором описываются опасности, представляемые быстро развивающейся технологией.

Страны поддерживают Международный научный отчет

В отчете подробно описываются некоторые опасности, которые могут возникнуть в результате продвинутого ИИ, включая поддержку терроризма и массовые потери рабочих мест. Это уже произошло, особенно в технологическом секторе, где тысячи рабочих мест были сокращены, поскольку компании автоматизируют процессы благодаря ИИ.

Согласно AP, отчет имеет поддержку 30 стран, включая США и Китай, что является редким случаем, когда две крупнейшие экономики мира сотрудничают. Две страны находились в состоянии противостояния, борясь за господство в сфере ИИ. На этой неделе китайский стартап DeepSeek поразил мир своим бюджетным чат-ботом, хотя США ввели строгие экспортные ограничения для Китая.

Выдающийся ученый в области ИИ Йошуа Бенгио возглавил исследование, которое представляет собой синтез уже существующих исследований, призванных направлять власти в разработке защитных мер для быстро развивающейся технологии.

«Ставки высоки», — говорится в отчете, отмечая, что несколько лет назад системы ИИ едва могли сгенерировать связный абзац. Однако благодаря недавнему развитию ИИ теперь может генерировать реалистичные изображения, компьютерный код, а также вести продолжительные разговоры с пользователями.

Согласно исследователям, опасности продвинутого ИИ уже медленно проявляются, такие как дезинформация и фейки, дипфейки, мошенничество и предвзятость.

«Нам нужно лучше понимать системы, которые мы создаем, и риски, которые с ними связаны, чтобы принимать лучшие решения в будущем».

Бенгио.

Это происходит «по мере того, как ИИ общего назначения становится более мощным, постепенно появляются доказательства дополнительных рисков», — говорится в отчете.

Это также происходит в ту же неделю, когда Ватикан предупредил против этой технологии вместе с группой, стоящей за Часами Судного дня. Отчет сосредоточен на ИИ общего назначения, который типичен для таких моделей, как ChatGPT от OpenAI.

Отчет классифицировал риски продвинутого ИИ

Международный научный отчет группирует риски на три категории: злонамеренное использование, сбои и широкомасштабные «системные» риски. Исследователи изучили, насколько легко ИИ может научиться использовать химическое или биологическое оружие, представляя огромные риски для людей.

Кроме того, в отчете отмечается, что ИИ общего назначения также может трансформировать рынок труда, вытесняя некоторых сотрудников, хотя другие исследователи согласны с тем, что ИИ может создать больше рабочих мест, чем уничтожит.

В отчете также выражены опасения по поводу систем ИИ, выходящих из-под контроля по двум возможным причинам: либо они подрывают человеческий надзор, либо люди уделяют меньше внимания.

Бенгио раскрыл, что 100 экспертов, собравшихся для подготовки отчета, не всегда соглашались с тем, чего ожидать от ИИ в будущем. Одним из разногласий было то, когда ИИ превзойдет человеческие возможности в различных задачах.

«Они также не согласны с сценариями», — сказал Бенгио.

«Конечно, у никого нет хрустального шара. Некоторые сценарии очень благоприятны. Некоторые ужасающи. Я думаю, что политикам и общественности действительно важно осознать эту неопределенность».

Бенгио.

Отчет, который поддержали несколько стран, также имеет поддержку Европейского союза. Это происходит на фоне того, что мировые лидеры, технологические лидеры, эксперты и гражданское общество должны снова собраться на Парижском саммите действий по ИИ. Страны подпишут «общую декларацию» о развитии ИИ.