Эксперты в своем докладе, опубликованном накануне саммита по искусственному интеллекту, заявляют, что передовые технологии искусственного интеллекта могут создать совершенно новые, чрезвычайно опасные риски

В недавно опубликованном Международном научном докладе о безопасности передового искусственного интеллекта показано, что передовой ИИ может привести к катастрофическим последствиям и оставить после себя боль и страдания для людей.

Как сообщает агентство AP, это первый в своем роде международный доклад, опубликованный в среду накануне саммита по искусственному интеллекту в Париже в феврале, в котором перечислены опасности, связанные с быстро развивающейся технологией.

Страны поддерживают Международный научный доклад

В докладе подробно описываются некоторые опасности, которые могут возникнуть в результате развития искусственного интеллекта, в том числе содействие терроризму и массовая потеря рабочих мест. Это уже наблюдается, особенно в технологическом секторе, где тысячи рабочих мест были сокращены в результате автоматизации компаний благодаря ИИ.

По данным AP, доклад поддержали 30 стран, включая США и Китай, что является редким случаем сотрудничества двух крупнейших экономик мира. Они постоянно конкурируют друг с другом за лидерство в области искусственного интеллекта. На этой неделе китайский стартап DeepSeek поразил мир своим бюджетным чат-ботом, несмотря на то, что США ввели строгий экспортный контроль в отношении Китая.

Исследование, проведенное под руководством известного ученого в области искусственного интеллекта Йошуа Бенджио, представляет собой объединение уже существующих исследований, призванных помочь властям в разработке мер по ограничению распространения этой быстрорастущей технологии.

«Ставки высоки», — говорится в отчете, отмечая, что еще несколько лет назад системы искусственного интеллекта едва могли написать связный абзац. Однако благодаря недавним разработкам ИИ теперь способен генерировать реалистичные изображения, программировать тексты, а также вести продолжительные беседы с пользователями.

По словам исследователей, опасности, связанные с развитым искусственным интеллектом, уже постепенно проявляются, например, в виде дезинформации, дипфейков, мошенничества и предвзятости.

«Нам необходимо лучше понимать системы, которые мы создаём, и связанные с ними риски, чтобы в будущем принимать более взвешенные решения»

Бенджио.

Согласно отчету, это происходит по мере того, как «универсальный ИИ становится все более совершенным, постепенно появляются свидетельства дополнительных рисков».

Это происходит на той же неделе, когда Ватикан предостерег от использования этой технологии совместно с группой, стоящей за проектом Doomsday Clock. В отчете основное внимание уделяется искусственному интеллекту общего назначения, типичными представителями которого являются такие модели, как ChatGPT от OpenAI.

В отчете были классифицированы риски, связанные с передовым искусственным интеллектом

В Международном научном докладе риски разделены на три категории: злонамеренное использование, сбои в работе и широко распространенные «системные» риски. Исследователи изучили, насколько легко искусственному интеллекту научиться использовать химическое или биологическое оружие, представляющее огромную опасность для человека.

Кроме того, в отчете отмечается, что универсальный ИИ также может трансформировать рынок труда, вытесняя часть сотрудников, хотя другие исследователи согласны с тем, что ИИ может создать больше рабочих мест, чем сократить.

В докладе также выражались опасения по поводу выхода систем искусственного интеллекта из-под контроля по двум возможным причинам: во-первых, из-за того, что они подрывают человеческий контроль, или из-за того, что люди уделяют им меньше внимания.

Бенджио рассказал, что 100 экспертов, собравшихся для подготовки отчета, не всегда сходились во мнениях относительно того, чего следует ожидать от ИИ в будущем. Одно из разногласий касалось того, когда ИИ превзойдет человеческие возможности в различных задачах.

«Они также расходятся во мнениях относительно сценариев», — сказал Бенджио.

«Конечно, никто не обладает даром предвидения. Некоторые сценарии очень выгодны. Другие же ужасающи. Я думаю, что политикам и общественности крайне важно учитывать эту неопределенность»

Бенджио.

Доклад, поддержанный рядом стран, также получил одобрение Европейского союза. Он выходит в преддверии ожидаемой встречи мировых лидеров, технологических лидеров, экспертов и представителей гражданского общества на Парижском саммите по развитию искусственного интеллекта. Страны подпишут «общую декларацию» о развитии ИИ.