Глава ООН по правам человека Тюрк предупреждает, что передовой искусственный интеллект может угрожать человечеству, и призывает к установлению «красных линий»

Сегодня, 7 сентября, Верховный комиссар ООН по правам человека Фолькер Тюрк публично предупредил о том, что возможности искусственного интеллекта достигли стадии, когда он становится экзистенциальной угрозой для человечества.

Тюрк призвал правительства как можно скорее принять меры по защите и ограничить деятельность лабораторий искусственного интеллекта, находящихся в авангарде гонки за лидерство в области технологий автономных систем, чтобы предотвратить выход ситуации из-под контроля на фоне участившихся нарушений иdent, связанных с безопасностью.

Самая большая головная боль для исполнительной власти ООН заключается в том, что системы, в которые внедряется технология искусственного интеллекта, развиваются быстрее, чем системы, которые в настоящее время ими управляют, могут trac. Этот неконтролируемый рост привел к тому, что угрозы вышли за рамки дезинформации и потери рабочих мест и достигли экзистенциального уровня, например, в таких областях, как безопасность, подотчетность и бесконтрольный надзор за высокоавтономными системами. 

Глава ООН по правам человека призывает к срочным международным действиям 

Тюрк сослался на сужающийся период, когда возможности ИИ еще можно проверить, как на основание для срочности своего призыва к скоординированным действиям на международном уровне. Он также отметил, что темпы и направление развития этой области непропорционально сосредоточены в руках узкого круга руководителей и компаний, занимающихся технологиями. 

Тюрк предложил решение проблем, на которые он указал. Его альтернатива заключается в том, чтобы страны, где базируются ведущие компании в области искусственного интеллекта и которые контролируют критически важные цепочки поставок, активизировались и установили «красные линии», определяющие, насколько далеко они готовы допустить внедрение этой технологии.

Верховный комиссар ООН по правам человека вновь обращается к теме, которую международная организация затронула на первом Глобальном диалоге по управлению ИИ, состоявшемся в том же швейцарском городе в июле. 

Выступая на саммите МСЭ «Искусственный интеллект во благо», где и началась эта дискуссия, Тюрк заявил: «Мы не рассматриваем стандарты безопасности лекарств, автомобилей или самолетов как препятствие для прогресса», — говорится в видеоматериалах ООН. «Именно поэтому люди доверяют этим технологиям». Он добавил, что человеческий контроль «не может быть просто формальным одобрением».

Часть доказательств, ставших предметом обсуждения на этом саммите, была представлена ​​Соней Ливингстон из Глобальной научной группы ООН по искусственному интеллекту. На тот момент, по меньшей мере, один ребенок из каждого класса заявил, что стал жертвой дипфейков сексуального характера, созданных искусственным интеллектом, в исследовании, охватившем 11 стран Глобального Юга. 

Глава организации «ООН-женщины» Сима Бахус также указала на гендерную предвзятость . По ее словам, около 88% ведущих исследователей в области ИИ сталкиваются с подобными проблемами. Она также сообщила, что по меньшей мере каждая четвертая женщина-активистка и журналистка, опрошенная ее агентством, сталкивалась с онлайн-травлей с использованием ИИ.

Лаборатории искусственного интеллекта и законодатели осознали эти проблемы

ООН не единственная организация, бьющая тревогу этим летом. Сенатор США Берни Сандерс призвал к немедленной приостановке передовых разработок в области ИИ и к постоянному запрету сверхинтеллекта, в то время как межпартийная группа британских парламентариев настаивает на законодательном закреплении «аварийных выключателей» для ИИ после того, что они назвали сериейdentс несанкционированным использованием ИИ. 

Эти опасения возникли после заявления OpenAI, связанного с ее моделью GPT-6 Astra, о том, что ее технология достигла уровня искусственного общего интеллекта, а также после признания Anthropic того, что ее собственные модели «не идеально соответствуют» человеческим ценностям.

Часть этого давления исходит изнутри отрасли. В июньской статье, опубликованной Axios, генеральный директор Anthropic Дарио Амодей утверждал, что правительства должны обладать юридическими полномочиями блокировать или отменять опасные внедрения ИИ, и что передовые модели должны проходить обязательное тестирование, подобно автомобилям, самолетам или новым лекарствам. 

В своем собственном обращении к Совету Тюрк распространил эту тему на поле боя, поддержав призывы к запрету оружия, способного убивать без участия человека.