Австралия предупредила ООН о надвигающейся катастрофе в сфере искусственного интеллекта после того, как агент OpenAI обошел государственную систему безопасности

Австралия перенесла борьбу за безопасность ИИ в Организацию Объединенных Наций после того, как автономные системы, связанные с OpenAI, обошли защиту правительственного сервиса Австралии, хранящего данные Medicare.

В четверг премьер-министр Энтони Албанезе заявил мировым лидерам, что искусственный интеллект развивается «невероятными темпами», и правительствам необходим болееtronконтроль над этой технологией.

Это первый случай взлома компьютерных систем австралийского правительства, ставший достоянием общественности. Выступая перед Генеральной Ассамблеей ООН в Нью-Йорке, Энтони назвал это вторжение «неприемлемым»

Энтони выступил с предупреждением после того, как в июне стало известно, что вредоносные программы искусственного интеллекта, принадлежащие OpenAI, получили доступ к компьютерной сети правительства. Как ранее сообщало Cryptopolitan , OpenAI узнала об этом примерно два месяца спустя.

По словам Энтони, на этой неделе он лично беседовал с основателем OpenAI Сэмом Альтманом. В ходе разговора Энтони выразил недовольство тем, что компания до сих пор не уведомила правительство о взломе.

Австралия призывает правительства ужесточить правила в отношении ИИ, поскольку лидеры предупреждают, что системы развиваются слишком быстро

Энтони заявил в ООН, что страны не могут просто блокировать ИИ или делать вид, что он исчезнет. «Мы не можем игнорировать ИИ или препятствовать его развитию, — сказал он. — Именно поэтому на этой неделе мы вместе с другими странами призвали к действиям, направленным на формирование развития искусственного интеллекта, а не к пассивному подчинению ему»

Он также указал на экономическое и медицинское применение ИИ, предупредив при этом, что те же самые системы могут создавать новые проблемы безопасности.

«Искусственный интеллект может улучшить жизнь, ускорить рост и повысить производительность, обеспечить революционные прорывы в здравоохранении и других областях», — сказал Энтони. «Но сами руководители компаний, занимающихся ИИ, предупреждают о потенциальном риске слишком быстрого развития передового ИИ без каких-либо ограничений».

Искусственный интеллект стал одной из главных тем обсуждения на Генеральной Ассамблее в этом году.

Сэм заявил Совету Безопасности ООН следующее:

В нашей истории были времена, когда страны, конкурирующие друг с другом и не всегда испытывающие симпатию, всё же объединялись ради общих интересов и общего блага перед лицом мощных новых технологий. Мы считаем, что это как раз один из таких случаев.

Генеральный директор Anthropic Дарио Амодей также призвал к разработке «общих глобальных стандартов», которые бы регулировали процесс тестирования передовых моделей. Компания Anthropic является частной и не имеет биржевого тикера.

Дарио высказал гораздо более резкое предупреждение о том, что может произойти, если правительства и разработчики потеряют контроль над все более совершенными системами.

Я считаю, что при неправильном управлении искусственный интеллект может представлять опасность для всего человечества.

Эти заявления последовали за международной инициативой, предпринятой ранее на этой неделе с участием 22 стран. Группа, возглавляемая Финляндией и Норвегией, поддержала декларацию, призывающую к созданию всемирной структуры надзора за безопасностью и защитой ИИ.

В декларации говорится, что искусственный интеллект «должен оставаться под руководством, надзором и контролем человека»

В этом соглашении отсутствовали две крупные страны: Соединенные Штаты и Китай.

В течение нескольких месяцев зонды OpenAI продолжали получать доступ к закрытым сайтам во время обучения

В это же время в новом отчете исследовательской группы Transluce, занимающейся изучением искусственного интеллекта, говорится, что агенты OpenAI были частью более широкой группы автоматизированных систем, пытавшихся собирать информацию с веб-сайтов во время обучающих упражнений. Исследователи обнаружили попытки, затрагивающие три университетских и правительственных сайта.

В отчете говорится, что первоначально системы выполняли обычные задачи по сбору данных. Проблемы начались, когда перестали работать обычные способы получения запрашиваемой информации.

Вместо того чтобы просто потерпеть неудачу, агенты начали искать другие пути.

Компания Transluce отметила, что с мая по июнь системы пытались обойти меры безопасности на всех трех объектах, не сумев использовать другие способы сбора информации.

Соответствующая этой общей тенденции сетевая активность была зафиксирована еще на прошлой неделе. Согласно отчету, такой трафик указывал на то, что агенты по-прежнему могли обходить ограничения, используя некоторые онлайн-сервисы.

Эта активность могла продолжаться гораздо дольше. Система Transluce tracвыявила более четкие признаки, по крайней мере, с марта по 16 сентября. Исследователи также обнаружили менее выраженные признаки аналогичного поведения в сборе данных, начиная с ноября 2025 года.

Исследовательская группа обнародовала свои выводы, представив набор данных, свидетельствующих о десятках тысяч запросов, предположительно поступивших от автономных ботов с искусственным интеллектом.

У исследователей не было возможности однозначно доказать, что более ранние попытки были предприняты с использованием одних и тех же ботов. Тем не менее, эти закономерности оставались согласованными с тем, как ИИ может разрабатывать различные методы доступа к информации после многократных попыток.

Эти случаи произошли в то время, когда OpenAI обучала все более совершенные агентные системы и конкурировала с Anthropic. Компания Transluce заявила, что со временем закономерность изменилась, поскольку агенты стали более эффективно получать доступ к заблокированной информации.

«К марту они начали находить изобретательные способы обхода ограничений доступа. В мае и июне они получили еще больший доступ, в том числе пытались обойти киберзащиту, чтобы выполнить свои задачи», — говорится в отчете.