Компания Microsoft подала иск против группы лиц, которые, по утверждению компании, злоупотребляли ее сервисом искусственного интеллекта (ИИ). По данным Microsoft, эта неназванная группа разработала инструменты, которые использовали для обхода защитных механизмов продуктов ИИ. В иске говорится, что группа, состоящая из 10 неназванных лиц, предположительно укралаdentданные пользователей.
Компания Microsoft заявила , что ответчики использовали украденные учетные dent и специально разработанное для этого программное обеспечение для взлома своего сервиса Azure OpenAI. Microsoft отвечает за управление этим облачным сервисом, созданным материнской компанией OpenAI, ChatGPT. По утверждению Microsoft, указанные лица нарушили ряд законов, одно из которых послужило основанием для подачи иска.
Компания Microsoft подала жалобу на злоупотребление своими услугами
В своем иске Microsoft подчеркнула, что ответчики, которых она называет юридическим псевдонимом «Does», нарушают Закон о компьютерном мошенничестве и злоупотреблениях, являющийся частью Закона об авторском праве в цифровую эпоху (Digital Millennium Copyright Act). Компания также заявила, что эти лица нарушили федеральный закон о рэкете, незаконно получив доступ к ее программному обеспечению и серверам и используя их для создания вредоносного и незаконного контента.
Однако Microsoft отказалась вдаваться в подробности содержимого, которое, по ее утверждению, было вредным и незаконным. В своей жалобе компания подчеркнула, что в июле 2024 года обнаружила, что некоторые пользователи с ключами API Azure OpenAI (строка символов, используемая для подтверждения приложения или пользователя) незаконно использовали их для создания контента, не соответствующего политике допустимого использования компании.
Согласно представленным документам, Microsoft обнаружила, что пользователи получили доступ к API-ключам незаконным путем через некоторых из них. В своем заявлении Microsoft утверждает, что способ получения ключей остается неизвестным, но компания tron убеждена, что ответчики украли ключи. «Точный способ, которым ответчики получили все API-ключи, использованные для совершения противоправных действий, описанных в данном иске, неизвестен, но, по всей видимости, ответчики занимались систематической matic API-ключей, что позволило им украсть API-ключи Microsoft у множества клиентов Microsoft», — говорится в заявлении.
Правовой вердикт и будущие решения
По данным Microsoft, ответчики целенаправленно атаковали пользователей в США, утверждая, что группа использовала украденные ключи API службы Azure OpenAI для создания схемы, которую они назвали «хакинг как услуга». В жалобе упоминалось, что ответчики создали инструмент под названием De3u, работающий на стороне клиента. Они также разработали другое программное обеспечение, которое обрабатывало и маршрутизировало обмен данными от De3u к системам компании.
Компания отметила, что De3u использовала украденные учетные dent , чтобы позволить пользователям создавать изображения с помощью DALL-E, одного из OpenAI, доступных пользователям. Однако загвоздка в том, что они могли делать это, не написав собственный код. В иске также утверждалось, что De3u пыталась помешать сервису Azure OpenAI проверять запросы, используемые для создания изображений. В жалобе упоминалось, что это происходит только в том случае, если запрос содержит слова, которые запускают систему фильтрации контента на платформе.
Репозиторий, содержащий код De3u, который был обнаружен на принадлежащем Microsoft GitHub, на момент написания статьи был удален. Microsoft отметила, что сочетание украденных ключей API службы Azure OpenAI и инструментов позволило ответчикам обойти ее меры по контролю за контентом. «Эти функции в сочетании с незаконным программным доступом ответчиков кmatic службы Azure OpenAI позволили им методом обратного проектирования обойти меры Microsoft по контролю за контентом и злоупотреблениями», — заявила компания.
Тем временем компания в недавнем сообщении в блоге упомянула, что суд одобрил ее ходатайство об изъятии веб-сайта, имеющего важное значение для деятельности ответчиков. Microsoft воспользуется этой возможностью, чтобы собрать доказательства и выяснить, как монетизируется сервис, чтобы удалить любую оставшуюся техническую инфраструктуру. Компания заявила, что приняла меры для устранения пробела, отметив новые меры безопасности для сервиса Azure OpenAI. Компания также добивается судебного запрета и других мер защиты прав и возмещения убытков.
