Генеральный прокурор Калифорнии выдает предписание xAI прекратить использование неуместных дипфейк-изображений

Генеральный прокурор Калифорнии Роб Бонта направил предписание компании Илона Маска xAI, требуя немедленно прекратить производство и распространение оскорбительных дипфейк-изображений, созданных ее чат-ботом Grok. 

Генеральный прокурор Калифорнии опубликовала предписание в пятницу в ответ на утверждения о том, что Grok использовался для создания незаконного контента, включающего изображения детей и фотографии взрослых без их согласия, что спровоцировало расследование в штате Калифорния. Бонта утверждал, что создание, распространение, публикация и демонстрация материалов сексуального насилия над детьми являются незаконными.

Генеральный прокурор Калифорнии нацелился на xAI из-за предполагаемого злоупотребления Grok

Ранее на этой неделе офис генерального прокурора Калифорнии объявил что он расследует деятельность xAI из-за утверждений о том, что чат-бот стартапа Grok использовался для создания несанкционированных, неуместных изображений женщин и детей. В ответ правительство направило корпорации предписание прекратить деятельность.

«Сегодня я направил xAI предписание, требуя от компании немедленно прекратить создание и распространение дипфейков, несанкционированных интимных изображений и незаконных материалов сексуального насилия над детьми. Создание таких материалов незаконно. Я полностью ожидаю немедленного соблюдения требований со стороны xAI. В Калифорнии нулевая толерантность к незаконным материалам сексуального насилия над детьми.»

–Роб Бонта, генеральный прокурор Калифорнии.

Офис генерального прокурора дополнительно утверждал, что xAI, по-видимому, «способствует крупномасштабному производству» несанкционированных, неуместных фотографий, которые затем «используются для преследования женщин и девочек в интернете». Согласно данным офиса генерального прокурора, одно исследование показало, что более половины из 20 000 фотографий, созданных xAI между Рождеством и Новым годом, изображали людей в очень легкой одежде, некоторые из которых выглядели как дети.

Роб Бонта заявил в анонсировала что что корпоративная практика нарушила гражданские законы Калифорнии, включая раздел 1708.86 Гражданского кодекса Калифорнии, разделы 311 и далее, а также 647(j)(4) Уголовного кодекса Калифорнии, и раздел 17200 Кодекса о бизнесе и профессиях Калифорнии. 

Департамент юстиции Калифорнии ожидает, что xAI подтвердит свои усилия по решению этих проблем и предпримет немедленные действия для их устранения в течение следующих пяти дней.

Однако ранее аккаунт безопасности X осудил такой тип поведения пользователей. Он уточнила 4 января заявил, что принимает меры против незаконного контента на платформе X, такого как материалы сексуального насилия над детьми, удаляя их, бессрочно приостанавливая аккаунты и сотрудничая с правоохранительными органами и муниципальными властями по мере необходимости.

Примечательно, что 4 января Илон Маск предупредил, что любой, кто использует или запрашивает Grok для создания незаконного контента, столкнется с теми же последствиями, что и если бы он загрузил его сам.

Генеральные прокуроры усиливают давление на ИИ-компании в вопросах безопасности детей

Тревожное увеличение количества несанкционированного контента для взрослых произошло в результате развития бесплатных инструментов генеративного ИИ. Эта проблема затрагивает несколько платформ, не только X.

Например, генеральный прокурор Бонта и генеральный прокурор Делавэра Дженнингс соответствовала с OpenAI в сентябре прошлого года, чтобы выразить свои серьезные опасения по поводу растущего числа сообщений о том, как продукты OpenAI взаимодействуют с молодежью.

В августе того же года генеральный прокурор Бонта вместе с 44 другими генеральными прокурорами направил письмо 12 ведущим ИИ-компаниям после сообщений о неуместном взаимодействии между ИИ-чатботами и детьми. Письма были отправлены в Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika и xAI.

Генеральный прокурор Бонта и 44 генеральных прокурора проинформировали компании в письме, что штаты по всей стране внимательно следят за тем, как компании разрабатывают свои политики безопасности ИИ. Они также подчеркнули, что эти компании несут юридическую обязанность перед детьми как потребителями, поскольку извлекают прибыль из использования их продуктов детьми. 

В 2023 году генеральный прокурор АГ Бонта присоединился к двупартийной коалиции из 54 штатов и территорий, направив письмо лидерам Конгресса с призывом создать экспертный комитет для расследования потенциального использования ИИ для эксплуатации детей через детскую порнографию (CSAM). 

Коалиция попросил предложила экспертной комиссии разработать законы, защищающие детей от подобных злоупотреблений. «Производство CSAM создает постоянную запись о жертве ребенка», — говорится в сообщении Министерства юстиции США.