xAI спорит с Миннесотой из-за закона, направленного против ИИ-генерации сексуальных изображений

Генеральный прокурор Миннесоты Кит Эллисон подал ходатайство в пятницу, возражая против попытки xAI заблокировать HF 1606 — первый в стране закон штата, ограничивающий использование ИИ-инструментов для генерации сексуальных изображений узнаваемых людей, сообщает Decrypt.

Эллисон аргументировал, что компании мало шансов добиться успеха по конституционному иску, и она не смогла доказать, что применение закона причинит непоправимый вред.

С помощью Grok Imagine, X.AI создала беспрецедентную площадку для цифровой сексуальной эксплуатации, и государство было бы бессильно с самого начала, если бы не могло направить свои законы непосредственно на технологию.

– Генеральный прокурор Кит Эллисон

Аргумент Миннесоты заключается в том, что Grok Imagine является инструментом, а не защищенной речью, что выводит его из рассмотрения аргументов xAI для суда. По этому вопросу состоится слушание у федерального судьи в среду.

Закон Миннесоты нацелен на поставщиков ИИ даже без знания или умысла

HF 1606 запрещает компаниям позволять пользователям генерировать реалистичные изображения, показывающие интимные части тела, отсутствовавшие на исходной фотографии узнаваемого человека, а также создавать такие изображения от имени пользователя. За нарушения предусмотрены штрафы до $500 000 за изображение. Изображенные люди могут подать отдельные иски.

Закон не требует, чтобы компания знала об изображении или имела намерение его создать. Большинство законов о дипфейках, включая федеральный закон Take It Down Act, наказывают тех, кто создает или распространяет такие изображения.

Техас связывался с операторами в 2025 году, но только если владелец знал об отсутствии согласия или не реагировал на уведомление об удалении. Миннесота исключила элемент знания, и именно этот пункт подвергается атаке со стороны xAI в среду.

Палата представителей приняла законопроект со счетом 132–1, а Сенат — 65–0, после сообщений о том, что один мужчина использовал фотографии из социальных сетей для создания сексуальных изображений более 80 женщин, которых он знал. Закон был подписан в апреле. xAI подала иск 27 июля и ходатайствовала о временном ограничительном приказе 29 июля.

31 июля судья Донован Фрэнк отклонил ходатайство, указав, что компания подала его почти через три месяца после подписания и за три дня до вступления в силу, что указывает на то, что «вред не является немедленным». Закон вступил в силу 1 августа.

xAI утверждает, что правила Миннесоты могут криминализировать сатиру и согласованные изображения

Исковое заявление не оспаривает интерес штата в предотвращении несанкционированных изображений, а скорее утверждает, что закон выходит далеко за эти рамки, и спор сводится к определению. По словам xAI, штат Миннесота основал свое определение интимной части тела на законодательстве, предназначенном для преступлений, связанных с физическим контактом, что охватывает внутренние бедра и грудь, включая купальники и сатиру.

На странице 19 документа содержится сгенерированная ИИ фотография, которой Трамп поделился в Truth Social 1 мая: на ней он изображен без рубашки вместе с JD Vance, Марко Рубио и министром внутренних дел Дагом Бургумом, а также с неизвестной женщиной, у Памати отражения в Линкольн-Мемориал, что является шуткой о стоимости ремонта пруда. Грудь каждого мужчины изображена там, где ее не было раньше, утверждает xAI, что делает изображение незаконным в Миннесоте.

«Даже если субъекты дали согласие, создали изображения сами или никогда не распространяли их, для поставщика инструментов общего назначения для творческого ИИ нет безопасной гавани для добросовестных усилий», — заявила компания.

По собственным расчетам компании, десять таких изображений обойдутся в $5 млн, а сто тысяч достигнут $50 млрд.

История применения мер Grok демонстрирует масштаб проблемы злоупотреблений

Компания представила свою историю соблюдения требований как доказательство добросовестности. Как ранее сообщал Cryptopolitan, xAI заявила в июльском заявлении, что в этом году заблокировала 52 222 аккаунта и направила 73 604 отчетов в Национальный центр по поиску и защите детей от эксплуатации, что привело как минимум к 244 арестам в 2026 году.

Эти цифры также отражают масштаб проблемы. Согласно Центру по противодействию цифровой ненависти, за 11-дневный период с 29 декабря по 8 января, после одобрения Муском функции редактирования приложения, Grok создал около 3 миллионов сексуально откровенных изображений, включая около 23 000, на которых изображены дети.

Калифорния открыла расследование 14 января и направила требование о прекращении деятельности двумя днями позже. 23 января совместное требование подписали тридцать пять генеральных прокуроров. По словам Эллисона, пять детей подали коллективный иск, а две семьи из Арканзаса подали иск в федеральный суд.

Европейская комиссия начала расследование 27 января, а чат-бот был запрещен в Малайзии и Индонезии.