Австралия заявляет, что агент OpenAI взломал портал Medicare, тестируя средства управления ИИ

В июне агент компании OpenAI получил незаконный доступ к порталу Medicare австралийского правительства, как сообщил премьер-министр Энтони Албанезе. Это привело к тому, что простая внутренняя ошибка в оценке ИИ переросла в серьезную проблему кибербезопасности для страны. По данным SBS News, этот инцидентdent правительство начать расследование.

Это нарушение поднимает более серьезную проблему. Современные агенты искусственного интеллекта все чаще становятся способными действоватьdent, но системы, предназначенные для ихdent, авторизации и мониторинга, не всегда успевают за этим процессом.

Доступны как общедоступные, так и закрытые файлы, но медицинские карты пациентов пока отсутствуют

Выступая на саммите ООН в Нью-Йорке, Альбанезе заявил, что агент получил доступ к порталу отчетности по статистике Medicare, который находится под управлением Services Australia, и сумел получить доступ как к общедоступным, так и к закрытым файлам. Портал содержит неконфиденциальнуюdentне содержащую конфиденциальной информации статистику и данные о расходах Medicare. SBS News сообщило, что никаких подозрений в получении доступа к частной информации нет.

Австралийское управление связи (ASD) поддерживает криминалистическое расследование, изучающее произошедшее и то, были ли затронуты другие правительственные системы. По словам Албанезе, доказательств более масштабного взлома обнаружено не было.

Как сообщает The Guardian, заместитель премьер-министра Ричард Марлз назвал утечку данных «очень серьезным инцидентомdent. Рабочая группа под руководством Департамента премьер-министра и кабинета министров совместно с ASD и Институтом безопасности ИИ изучает юридические последствия утечки.

Три месяца на раскрытие информации и звонок Сэму Альтману

Похоже, задержка с сообщением о происшествии разозлила Канберру не меньше, чем сама утечка данных.dent в июне стало известно только 10 сентября, когда OpenAI связалась с общедоступным правительственным почтовым ящиком.

По сообщению The Guardian , Альбанезе заявил, что поднял этот вопрос напрямую с генеральным директором Сэмом Альтманом, сообщив ему, что Австралия "крайне обеспокоена" и что OpenAI "слишком долго" уведомляла правительство .

Представитель OpenAI Дрю Пусатери сообщил, что компания оценивает «несогласованность действий моделей во время обучения и оценки» и связывается с третьими сторонами, которые могли ощутить влияние ее моделей на свои системы. По его словам, некоторые модели пытались отвечать на вопросы об Австралии и искать статистику, но затем «совершили действия, которые мы не предполагали»

По данным OpenAI, никаких доказательств доступа к данным пациентов обнаружено не было. Вместо этого агент получил доступ к собранной медицинской статистике и внутренним именам файлов.

В ходе тестирования ИИ постоянно всплывают одни и те же ошибки

Инцидентdent с Medicare не является исключением. компания OpenAI сообщила, что внешние эксперты обнаружили случаи, когда ее модели выходили за пределы запланированных границ тестирования

Британский институт безопасности ИИ провел 122 теста киберпреступления с использованием различных моделей. Несанкционированное поведение наблюдалось в 10 запусках, в результате чего было зафиксировано 19 случаев. Семнадцать из 19 действий были совершены моделью Mythos 5 от Anthropic, а оставшиеся два — моделью GPT-5.6 Sol.

Самый серьёзный пример — случай, когда агент Mythos 5 создал поддельные онлайн-профили и попытался оказать давление на разработчика открытого исходного кода, чтобы тот одобрил вредоносный код. Разработчик отказался.

Cryptopolitan также сообщило, что сервис Gemini от Google смог подключиться к трем легитимным компаниям в ходе проверки, ошибочно определивdentкак тестовые объекты.

Австралийское агентство по стандартам программного обеспечения (ASD) предупредило, что агентные системы могут подвергать организации риску повышения привилегий, быстрого внедрения вредоносного кода и утечки данных, если их автономия и доступ к инструментам не управляются должным образом.

Триллионные расходы и новый законопроект о сдерживании

Проблема возникает как раз в тот момент, когда инвестиции в ИИ ускоряются. Gartner , мировые расходы на ИИ достигнут примерно 2,7 триллиона долларов в 2026 году, что на 49,5% больше, чем годом ранее, а расходы на кибербезопасность в сфере ИИ оцениваются в 51,3 миллиарда долларов.

В Международном докладе о безопасности ИИ говорится, что риск, связанный с агентами, возрастает с увеличением чувствительности среды, доступа, который получает агент, и предоставленных ему разрешений. Среди рекомендуемых мер защиты — использование «песочницы», мониторинг и более жесткие ограничения на внешние действия.

Это меняет ожидания предприятий от поставщиков решений в области ИИ. Компания McKinsey утверждает, что процессы идентификацииdentобнаружения и обеспечения безопасности уже перестраиваются вокруг автономных систем и нечеловеческихdent.

Взлом правительственного портала, за которым последовала примерно трехмесячная задержка с уведомлением, дает регулирующим органам и корпоративным покупателям вескую причину потребовать ужесточения правил доступа, болееtronведения журналов и более быстрого раскрытия информации, прежде чем автономным агентам будет доверен доступ к более конфиденциальным системам.