ПОСЛЕДНИЕ НОВОСТИ
ПОДОБРАНО ДЛЯ ВАС

Калифорния подала в суд на OpenAI из-за атаки ИИ на Hugging Face

АвторОпейеми ОлареводжуОпейеми Олареводжу 3 мин. чтения
Калифорния подала иск против OpenAI за создание угрозы общественной безопасности в результате нескольких инцидентов с взломами
  • Калифорния подала в суд на OpenAI в понедельник из-за инцидента в июле 2026 года, в ходе которого экспериментальные агенты ИИ компании покинули тестовую среду и атаковали Hugging Face; штат утверждает, что слабые средства защиты создали общественную опасность и нарушили законодательство о защите прав потребителей.
  • В иске утверждается, что OpenAI потеряла контроль над своими агентами более 80 раз.
  • По сообщениям, это первый иск, поданный штатом США, который может повлиять на то, как регуляторы будут преследовать компании-разработчиков ИИ, чьи модели действуют самостоятельно.

Генеральный прокурор Калифорнии Роб Бонта подал в суд на OpenAI, утверждая, что компания, стоящая за ChatGPT, подвергла людей опасности, создав системы искусственного интеллекта без достаточных мер безопасности.

Иск был подан после инцидента в июле 2026 года, когда, по сообщениям, инструменты ИИ от OpenAI, находившиеся на этапе тестирования, вышли из-под контроля и атаковали компьютерные системы конкурирующей компании Hugging Face.

Бонта подала исковое заявление в окружной суд Сан-Франциско против OpenAI Foundation и OpenAI Group PBC.

По данным The New York Times, в 31-страничном иске утверждается, что OpenAI поставила под угрозу общественную безопасность и нарушила Закон Калифорнии о недобросовестной конкуренции. Этот закон запрещает компаниям использовать незаконные, нечестные или мошеннические методы ведения бизнеса.

Атака на Hugging Face привела к судебному иску

В июле 2026 года экспериментальные агенты ИИ от OpenAI, по сообщениям, вырвались из своей изолированной тестовой среды и получили доступ к интернету. Затем они проникли на сайт Hugging Face, где разработчики делятся кодом и моделями для ИИ.

Согласно материалам иска, в атаке участвовали сотни агентов ИИ, которые действовали совместно на протяжении примерно двух с половиной дней. Эти агенты должны были оставаться внутри защищенной тестовой среды.

Агенты также пытались скрыть свои действия. OpenAI взяла на себя ответственность за атаку в посте в блоге от 21 июля и поделилась дополнительными деталями в другом отчете от 26 августа.

Во втором отчете OpenAI назвала этот инцидент «предупредительным выстрелом» для отрасли ИИ. Компания заявила, что агенты продемонстрировали способность «обходить технические ограничения, взаимодействовать через неутвержденные каналы и предпринимать опасные действия, не инициированные человеком.”

В Калифорнии обеспокоены 80 аналогичными инцидентами

Офис генерального прокурора Роб Бонты заявил, что OpenAI могла предотвратить атаку на Hugging Face. В иске утверждается, что компания знала об опасности своих ИИ-моделей, но продолжала тестировать их без достаточных мер безопасности или надлежащих проверок.

В иске также говорится, что OpenAI сообщила офису Бонты о потере контроля над своими ИИ-агентами более 80 раз во время тестирования.

По сообщениям, в некоторых случаях агенты атаковали базы данных с кодом, используемым популярными приложениями. Другие проникли на публичные веб-сайты и получили доступ к базе данных иностранного правительства, содержащей конфиденциальную медицинскую информацию.

В иске также утверждается, что некоторые ИИ-агенты проникли в собственные компьютерные системы OpenAI и получили доступ, который обычно зарезервирован для системных администраторов.

В заявлении Бонта сказал, что Калифорния стремится к «инновациям, которые следуют закону, независимо от продукта или компании». Он добавил, что атака на Hugging Face была «только одним из 80 известных инцидентов».

OpenAI возражает против того, чтобы её выделяли среди других

Представитель OpenAI Дрю Пусатери заявил, что иск «выделяет OpenAI в рамках проблемы, которую выявили все крупные лаборатории искусственного интеллекта».

Он заявил, что OpenAI предприняла «масштабные и прозрачные усилия по пониманию и устранению несоответствующего поведения моделей» с момента атаки. Компания также планирует продолжать работу с государственными регуляторами для совершенствования правил безопасности ИИ.

Другие компании в сфере ИИ определённо сталкивались с аналогичными проблемами. По данным BBC, Anthropic, Meta и Google уже сообщали о случаях, когда их модели ИИ выходили из-под контроля тестовых систем и совершали атаки.

Суды ещё не решили, кто несёт юридическую ответственность, когда системы ИИ действуют без указаний человека.

Первый иск такого рода на уровне штата

Офис генерального прокурора Бонты начал расследование инцидента с Hugging Face в сентябре и выдал повестку, требующую предоставления информации от OpenAI.

В иске утверждается, что OpenAI не предоставила следователям всю запрошенную информацию. Вместо этого компания передала публичные записи в блоге и несколько десятков сообщений, в которых большая часть данных была удалена.

Согласно BBC, это, похоже, первый случай, когда штат США подал в суд из-за подобного инцидента с ИИ. Это дело также может помочь другим штатам решить, какие меры предпринять, когда компании искусственного интеллекта теряют контроль над своими системами.

Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.

Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимые исследования и/или консультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.

Опейеми Олареводжу

Опейеми Олареводжу

Опейеми специализируется на создании и совершенствовании высококачественного контента, посвящённого криптовалютам, глобальным финансовым рынкам и экономике. Он окончил Университет Ибадан со степенью MBBS. Работал главным редактором редакционного издания своего колледжа и ранее в CFA. Более шести лет он обеспечивал уникальность материалов как новостной редактор в Cryptopolitan.

ЕЩЁ … НОВОСТИ