Обеспокоенность ИИ побуждает ученых перевести Часы Судного дня на уровень «надвигающейся катастрофы»

Часы Судного дня теперь установлены на 89 секунд до полуночи — это самое близкое расстояние до полуночи за всю историю. Близость к полуночи отражает масштаб нарастающих глобальных угроз.

Часы — это уникальные часы, созданные 78 лет назад «Бюллетенем ученых-атомщиков» как символ для оценки того, насколько близко человечество находится к уничтожению мира.

За последние 78 лет время на часах менялось в зависимости от того, насколько близко, по мнению ученых, человечество подошло к полному уничтожению. В некоторые годы они корректируют время, в другие — нет.

Совет по науке и безопасности «Бюллетеня» консультируется с Советом спонсоров для ежегодной корректировки Часов Судного дня. 

Совет был впервые создан Альбертом Эйнштейном в декабре 1948 года, его первым председателем стал Дж. Роберт Оппенгеймер. В настоящее время в него входят девять нобелевских лауреатов, многие из которых работают в области физики, физиологии или медицины.

Часы Судного дня неуклонно приближаются к полуночи

В течение двух предыдущих лет «Бюллетень» устанавливал часы на 90 секунд до полуночи. Это было связано в основном с вторжением России в Украину, потенциальной гонкой ядерных вооружений, конфликтом между Израилем и ХАМАСом в Газе и климатическим кризисом.

Основная цель часов — не окончательно измерять экзистенциальные угрозы, а скорее инициировать обсуждения сложных научных вопросов, таких как изменение климата, согласно «Бюллетеню».

Дэниел Хольц, председатель Совета по науке и безопасности «Бюллетеня» и профессор кафедры физики, астрономии и астрофизики Чикагского университета, на брифинге во вторник заявил, что часы были переведены ближе к полуночи, потому что теперь есть «достаточный позитивный прогресс в решении глобальных проблем, с которыми мы сталкиваемся, включая ядерные риски, изменение климата, биологические угрозы и развитие прорывных технологий, таких как искусственный интеллект». 

«Страны, обладающие ядерным оружием, увеличивают размер и роль своих арсеналов, инвестируя сотни миллиардов долларов в оружие, способное уничтожить цивилизацию многократно», — добавил он. 

Прогресс в развитии прорывных технологий, таких как искусственного интеллекта, биотехнологии, и в космической сфере также далеко опередил регулирование в этих областях, отметил Хольц.

По мнению Хольца, эти опасности усугубляются мощным множителем угроз — «распространением дезинформации, фейков и теорий заговора, которые разрушают коммуникационную экосистему и все больше стирают грань между правдой и ложью». 

Искусственный интеллект теперь влияет на Часы Судного дня 

На часы Судного дня влияет множество факторов, но последним и, возможно, самым влиятельным является угроза ИИ. 

ИИ превратился в аналог гонки вооружений, поскольку страны стремятся доминировать в этой области. Это привело к началу «Холодной войны ИИ» — геополитического напряжения между США и Китаем, сосредоточенного на конкуренции за доминирование в технологиях искусственного интеллекта.

Холодная война ИИ восходит к 2018 году, когда Китай объявил о своем Плане развития ИИ, направленном на глобальное лидерство к 2030 году. С тех пор США обрушили на Китай волну санкций и запретов, чтобы ограничить доступ азиатской страны к новейшим и высокопроизводительным графическим процессорам (GPU). 

Эта борьба приобрела новое измерение с выходом DeepSeek, китайской альтернативы всем языковым моделям, выпущенным США. DeepSeek захватила внимание, показав результаты на уровне ведущих ИИ-моделей, таких как ChatGPT от OpenAI, при этом стоимость обучения составила всего 6 миллионов долларов, что является долей от более чем 100 миллионов долларов, которые оценивает аудиторию бесплатного плана ChatGPT более чем в 1 миллиард еженедельно активных пользователей, и именно рекламная модель помогает поддерживать работу бесплатной версии. тратятся на аналогичные модели.

Приложение успех вызвало обеспокоенность национальной безопасностью в США, многие опасаются за конфиденциальность данных и потенциальное влияние Китая через технологии ИИ.

Если часы когда-нибудь пробьют полночь

Заинтересованные стороны ожидают, что последнее развитие событий только усилит Холодную войну ИИ, поскольку США пытаются вернуть свое лидерство. 

Потенциальные последствия безудержной погони за доминированием в ИИ — вот почему Часы Судного дня теперь показывают 89 секунд до полуночи. Ученые надеются, что Часы Судного дня снова инициируют обсуждения, ведущие к мирным решениям. 

Midnight представляет момент, когда люди сделают Землю непригодной для жизни. Согласно президенту и генеральному директору «Бюллетеня» Рэйчел Бронсон, часы никогда не достигали полуночи, и она надеется, что этого никогда не произойдет.

«Когда часы показывают полночь, это означает, что произошел какой-то ядерный обмен или катастрофическое изменение климата, уничтожившее человечество», — сказала она. «Мы никогда не хотим до этого доводить, и мы не узнаем об этом, когда это случится».