Нобелевские лауреаты присоединяются к политикам и ученым с призывом ограничить опасное использование ИИ
- Более 200 лидеров, включая 10 лауреатов Нобелевской премии и ведущих исследователей в области ИИ, призывают к обязательным международным ограничениям на опасное использование ИИ к 2026 году.
- Предлагаемые запреты включают летальные автономные вооружения, самокопирующийся ИИ и применение ИИ в ядерной войне.
- Глобальный призыв, озвученный на Генеральной Ассамблее ООН, подчеркивает, что добровольных обязательств компаний-разработчиков ИИ недостаточно.
Кампания по продвижению правительств к согласию по обязательным международным ограничениям для предотвращения злоупотреблений технологиями ИИ была выведена на уровень ООН, так как более 200 ведущих политиков, ученых и лидеров мнений, включая 10 лауреатов Нобелевской премии, выпустили предупреждение о рисках этой технологии.
Заявление, опубликованное в понедельник на открытии Высокого уровня Генеральной Ассамблеи ООН, называется Глобальным призывом к красным линиям для ИИ. В нем утверждается, что «текущий траектория ИИ представляет беспрецедентные опасности» и требует, чтобы страны работали над международным соглашением о четких, проверяемых ограничениях к концу 2026 года.
Лауреаты Нобелевской премии возглавляют петицию в ООН
Петиция была раскрыта лауреатом Нобелевской премии мира и журналисткой Марией Рессой, которая использовала свое вступительное слово, чтобы призвать правительства «предотвратить общепризнанные неприемлемые риски» и определить, чего ИИ никогда не должен позволять себе делать.
Среди подписантов заявления — лауреаты Нобелевской премии по химии, экономике, миру и физике, а также известные авторы, такие как Стивен Фрай и Юваль Ной Харари. Бывший президент Ирландии Мэри Робинсон и бывший президент Колумбии Хуан Мануэль Сантос, который также является лауреатом Нобелевской премии мира, также присоединились к подписям.
Джеффри Хинтон и Ёшуа Бенгио, широко известные как «отцы ИИ» и лауреаты премии Тьюринга, которую широко считают Нобелевской премией в области компьютерных наук, также добавили свои подписи под заявлением.
«Это поворотный момент», — сказал Харари. «Люди должны согласиться с четкими красными линиями для ИИ, прежде чем технология изменит общество за пределами нашего понимания и разрушит основы нашей человечности».
Прошлые попытки привлечь внимание к рискам ИИ часто фокусировались на добровольных обязательствах компаний и правительств. В марте 2023 года более 1000 технологических лидеров, включая Илона Маска, призвали к паузе в разработке мощных систем ИИ. Несколько месяцев спустя руководители ИИ-компаний, такие как Сэм Альтман из OpenAI и Демис Хассабис из Google DeepMind, подписали краткое заявление, приравнивающее экзистенциальные риски ИИ к рискам ядерной войны и пандемий.
ИИ разжигает страхи экзистенциальных и социальных рисков
Всего на прошлой неделе ИИ был причастен к случаям, ranging от самоубийства подростка до сообщений о его использовании для манипулирования общественными дебатами.
Подписанты обращения утверждают, что эти непосредственные риски вскоре могут быть затмевены более крупными угрозами. Комментаторы предупреждают, что продвинутые системы ИИ могут привести к массовой безработице, созданным человеком пандемиям или систематическим нарушениям прав человека, если их не контролировать.
Некоторые из пунктов в списке эмбарго включают запрет на летальные автономные вооружения, запрет на само воспроизводящиеся системы ИИ и обеспечение того, чтобы ИИ никогда не использовался в ядерной войне.
«В наших жизненно важных общих интересах предотвратить нанесение ИИ серьезного и потенциально необратимого ущерба человечеству, и мы должны действовать соответствующим образом», — сказал Ахмет Узуьмджю, бывший генеральный директор Организации по запрещению химического оружия, которая получила Нобелевскую премию мира в 2013 году под его руководством.
Более 60 организаций гражданского общества подписали письмо, включая британский аналитический центр Demos и Пекинский институт безопасности и управления ИИ. Эта инициатива координируется тремя некоммерческими организациями: Центром человеко-совместимого ИИ при Калифорнийском университете в Беркли, The Future Society и французским Центром безопасности ИИ.
Несмотря на недавние заявления о безопасности от таких компаний, как OpenAI и Anthropic, которые согласились на правительственное тестирование моделей перед выпуском, исследования показывают, что фирмы выполняют лишь около половины своих обязательств.
«Мы не можем позволить себе ждать», — сказала Ресса. «Мы должны действовать, прежде чем ИИ выйдет из-под нашего контроля».
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Ханна Коллимор
Ханна — писатель и редактор с почти десятилетним опытом ведения блогов и освещения мероприятий в криптоиндустрии. В Cryptopolitan Ханна работает над новостной страницей, освещая и анализируя последние события в сферах DeFi, RWA, криптовалютного регулирования, искусственного интеллекта и передовых технологий. Она окончила Университет Аркадии со степенью бакалавра делового администрирования.
