Microsoft инициирует судебный иск против группы за злоупотребление своим сервисом

Microsoft подала в суд на группу, которую компания обвинила в злоупотреблении своим сервисом искусственного интеллекта (ИИ). По словам Microsoft, эта неназванная группа разработала инструменты, которые использовала для обхода защитных механизмов ее продуктов на базе ИИ. В поданном иске утверждается, что группа, состоящая из 10 неназванных лиц, якобы похитила учетные данные пользователей.

Microsoft заявила, что ответчики использовали украденные учетные данные пользователей, и для взлома ее сервиса Azure OpenAI было использовано специально разработанное программное обеспечение. Microsoft отвечает за управление облачным сервисом, созданным материнской компанией OpenAI ChatGPT. Указанные лица нарушили несколько законов, один из которых потребовал подачи иска, утверждает Microsoft.

Microsoft подает жалобу на злоупотребление своими сервисами

В своей жалобе Microsoft указала, что ответчики, которых она называет юридическим псевдонимом «Does», нарушили Закон о компьютерных мошенничествах и злоупотреблениях (Computer Fraud and Abuse Act), который является частью Закона об авторском праве в цифровую эпоху (DMCA). Компания также утверждала, что эти лица нарушили федеральный закон о рэкетерстве, незаконно получая доступ к своему программному обеспечению и серверам для создания вредоносного и незаконного контента.

Однако Microsoft отказалась раскрывать детали содержания, которое она назвала вредоносным и незаконным. В жалобе компания отметила, что в июле 2024 года обнаружила, что некоторые пользователи с ключами API Azure OpenAI (строка символов, используемая для авторизации приложения или пользователя) незаконно использовались для генерации контента, не соответствующего политике приемлемого использования компании.

Согласно заявлению, Microsoft обнаружила, что пользователи незаконно получили доступ к API-ключам через некоторых пользователей. В своем заявлении Microsoft утверждала, что способ получения ключей остается неизвестным, но она твердо верит, что ответчики украли ключи. «Точный способ, которым Ответчики получили все API-ключи, использованные для совершения проступков, описанных в этом иске, неизвестен, но кажется, что Ответчики вовлечены в систематическую кражу API-ключей, которая позволила им украсть API-ключи Microsoft у нескольких клиентов Microsoft», — говорится в заявлении.

Правовой вердикт и будущие решения

По данным Microsoft, ответчики особенно нацелились на пользователей Соединенных Штатов, при этом компания утверждает, что группа использовала украденные ключи API Azure OpenAI Service для создания схемы, которую она называет «взлом как услуга». В иске упоминается, что ответчики создали инструмент под названием De3u, который работает на стороне клиента. Они также создали другое программное обеспечение, которое обрабатывало и маршрутизировало коммуникацию от De3u к системам компании.

Фирма отметила, что De3u использовала украденные учетные данные API, чтобы позволить пользователям генерировать изображения с помощью DALL-E, одного из сервисов OpenAI, доступных пользователям. Однако суть в том, что они могут делать это, не написав собственный код. В заявлении также утверждается, что De3u пыталась помешать сервису Azure OpenAI Service проверять запросы, используемые для создания изображений. В иске упоминается, что это происходит только в случае, если запрос содержит слова, которые активируют систему фильтрации контента на ее платформе.

Репозиторий, содержащий код De3u, который был замечен на принадлежащем Microsoft GitHub, был удален на момент написания статьи. Microsoft отметила, что сочетание украденных ключей API службы Azure OpenAI и инструментов позволило ответчикам обойти ее меры защиты контента. «Эти функции в сочетании с незаконным программным доступом ответчиков к службе Azure OpenAI позволили им реверс-инжинирингом найти способы обхода мер защиты контента и предотвращения злоупотреблений со стороны Microsoft», — говорится в заявлении компании.

Тем временем компания в недавнем посте в блоге упомянула, что суд одобрил ее ходатайство о конфискации веб-сайта, являющегося неотъемлемой частью операций ответчиков. Microsoft воспользуется этой возможностью для сбора доказательств и выяснения того, как монетизируется сервис, чтобы удалить любую оставшуюся техническую инфраструктуру. Фирма заявила, что приняла меры для устранения уязвимости, отметив новые меры безопасности для сервиса Azure OpenAI Service. Компания также требует вынесения судебного запрета и других справедливых мер и возмещения ущерба.