Глава ООН по правам человека Тюрк предупреждает: передовой ИИ может угрожать человечеству, призывает установить «красные линии»

Верховный комиссар ООН по правам человека Вольтер Тюрк публично предупредил о том, что возможности искусственного интеллекта достигают стадии, когда они становятся экзистенциальной угрозой для человечества. Это заявление было сделано в Совете по правам человека в Женеве сегодня утром, 7 сентября.

Тюрк призвал правительства быстро принять меры по созданию защитных механизмов и ограничению деятельности лабораторий ИИ, лидирующих в гонке за технологии автономных систем, чтобы предотвратить выход их деятельности из-под контроля на фоне учащающихся инцидентов с безопасностью.

Главная проблема для исполнительной власти ООН заключается в том, что технологии ИИ развиваются быстрее, чем системы, регулирующие их, могут отслеживать. Этот неконтролируемый рост теперь усилил угрозы, выйдя за рамки дезинформации и потери рабочих мест в такие экзистенциальные сферы, как безопасность, подотчетность и отсутствие надлежащего надзора за высокоавтономными системами. 

Глава ООН по правам человека призывает к срочным международным действиям 

Тюрк указал на закрывающееся окно возможностей, когда способности ИИ еще можно контролировать, как основу для срочности, с которой он призывает к международно скоординированным действиям. Он также указали на отметил, что темпы и направление развития области непропорционально находятся в руках узкого круга технологических руководителей и компаний. 

Тюрк предложил решение проблемам, которые он назвал тревожными факторами. Его альтернатива заключается в том, чтобы страны, где базируются ведущие компании ИИ, и те, которые контролируют критические цепочки поставок, активизировались и провели «красные линии» относительно того, насколько далеко они готовы позволить развиваться технологии.

Верховный комиссар ООН по правам человека возвращается к теме, которую международный орган обсуждал на первом Глобальном диалоге по управлению ИИ в том же швейцарском городе в июле. 

Выступая на саммите ITU «ИИ во благо», где началось обсуждение, Тюрк сказал: «Мы не считаем стандарты безопасности для лекарств, автомобилей или самолетов препятствием для прогресса», — цитирует видео ООН. «Они являются причиной того, что люди изначально доверяют этим технологиям». Он добавил, что человеческий надзор «не может быть просто формальностью».

Частью доказательств, которые привели к обсуждению на этом саммите стали данные, представленные Соней Ливингстон из учрежденного ООН Глобального научного совета по ИИ. Согласно исследованию, охватившему 11 стран Глобального Юга, по крайней мере один ребенок в классе заявил, что стал жертвой сексуально откровенных ИИ-дипфейков. 

Глава ООН Women Сима Баус также указала на гендерную предвзятость во всем этом. По ее словам, около 88% ведущих исследователей ИИ. Она также сообщила, что по крайней мере одна из четырех женщин-активисток и журналисток, опрошенных ее агентством, столкнулась с онлайн-abusом с использованием ИИ.

Лаборатории ИИ и законодатели осознали проблемы

ООН не единственная, кто бьет тревогу этим летом. Сенатор США Берни Сандерс призвал к немедленной паузе в работе с передовым ИИ и постоянному запрету на суперинтеллект, в то время как межпартийная группа британских парламентариев потребовала законодательно обязательных «аварийных выключателей» для ИИ после серии инцидентов с «буйным» ИИ. 

Эти опасения последовали за заявлением OpenAI, связанным с его моделью GPT-6 Astra, о том, что его технология достигла искусственного общего интеллекта, и признанием Anthropic в том, что его собственные модели «не идеально согласованы» с человеческими ценностями.

Часть этого давления исходит изнутри отрасли. В эссе от июня освещенном Axios, генеральный директор Anthario Dario Amodei утверждал, что правительства должны иметь юридическую власть блокировать или отменять опасные развертывания ИИ, а модели передового уровня должны проходить обязательное тестирование, аналогичное автомобилям, самолетам или новым лекарствам. 

В своем обновлении для Совета Тюрк расширил эту тему до поля боя, поддержав призывы запретить оружие, способное убивать без участия человека в контуре.