Генеральный прокурор Калифорнии направил компании xAI предписание о прекращении противоправных действий в связи с использованием неподобающих изображений, созданных с помощью технологии дипфейк

Генеральный прокурор Калифорнии Роб Бонта направил письмо с требованием прекратить противоправные действия компании xAI Илона Маска, требуя немедленно прекратить производство и распространение оскорбительных дипфейк-изображений, созданных с помощью чат-бота Grok. 

генеральный прокурор Калифорнии направил письмо с требованием прекратить противоправные действия в ответ на обвинения в том, что Grok использовался для создания незаконного контента с участием детей и фотографий взрослых, сделанных без их согласия, что послужило поводом для расследования со стороны штата Калифорния. Бонта утверждал, что создание, распространение, публикация и демонстрация материалов сексуального характера с участием детей является незаконным.

Генеральный прокурор Калифорнии преследует компанию xAI за предполагаемое неправомерное использование Grok

Ранее на этой неделе прокуратура Калифорнии заявила , что проводит расследование в отношении компании xAI в связи с утверждениями о том, что чат-бот Grok использовался для создания непристойных, несанкционированных фотографий женщин и детей. В ответ правительство направило корпорации письмо с требованием прекратить противоправные действия.

«Сегодня я направил компании xAI письмо с требованием немедленно прекратить создание и распространение дипфейков, интимных изображений, полученных без согласия родителей, и незаконных материалов, связанных с насилием над детьми. Создание таких материалов является незаконным. Я ожидаю, что xAI немедленно выполнит это требование. В Калифорнии действует политика нулевой терпимости к незаконным изображениям, связанным с насилием над детьми»

–Роб Бонта, генеральный прокурор Калифорнии.

Генеральная прокуратура также заявила, что xAI, по всей видимости, «способствует крупномасштабному производству» непристойных фотографий, сделанных без согласия жертвы, которые затем «используются для преследования женщин и девочек в интернете». По данным Генеральной прокуратуры, одно исследование показало, что более половины из 20 000 фотографий, созданных xAI в период с Рождества до Нового года, изображали людей в очень откровенной одежде, некоторые из которых выглядели как дети.

Роб Бонта заявил в своем заявлении , что корпоративные действия нарушают гражданские законы Калифорнии, включая раздел 1708.86 Гражданского кодекса Калифорнии, разделы 311 и далее и 647(j)(4) Уголовного кодекса Калифорнии, а также раздел 17200 Кодекса о предпринимательской деятельности и профессиях Калифорнии. 

Министерство юстиции Калифорнии ожидает, что компания xAI подтвердит свои усилия по решению этих проблем и незамедлительно примет меры для их устранения в течение следующих пяти дней.

Однако ранее служба безопасности X осуждала подобное поведение пользователей. 4 января она уточнила , что принимает меры против незаконного контента на X, такого как материалы сексуального характера, удаляя его, блокируя учетные записи наdefiсрок и сотрудничая с правоохранительными органами и муниципальными властями по мере необходимости.

Примечательно, что 4 января Илон Маск предупредил, что любой, кто использует Grok к созданию незаконного контента, столкнется с теми же последствиями, что и в случае его загрузки.

Генеральные прокуроры усиливают давление на компании, занимающиеся искусственным интеллектом, в связи с обеспечением безопасности детей

В результате разработки бесплатных инструментов генеративного искусственного интеллекта наблюдается тревожный рост количества контента для взрослых, распространяемого без согласия пользователей. Эта проблема затронула не только платформу X, но и многие другие.

Например, генеральный прокурор штата Делавэр Бонта и генеральный прокурор штата Делавэр Дженнингс встретились с представителями OpenAI в сентябре прошлого года, чтобы выразить серьезную обеспокоенность по поводу растущего числа сообщений о том, как продукты OpenAI взаимодействуют с молодежью.

В августе того же года генеральный прокурор Бонта вместе с 44 другими генеральными прокурорами направил письмо 12 ведущим компаниям, занимающимся искусственным интеллектом, после сообщений о ненадлежащем взаимодействии чат-ботов с ИИ с детьми. Письма были отправлены компаниям Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika и xAI.

Генеральный прокурор Бонта и 44 генеральных прокурора уведомили компании в письме о том, что штаты по всей стране внимательно следят за тем, как компании разрабатывают свои политики безопасности ИИ. Они также подчеркнули, что эти предприятия несут юридическую обязанность перед детьми как потребителями, поскольку получают прибыль от использования детьми их продукции. 

В 2023 году генеральный прокурор Бонта присоединился к двухпартийной коалиции из 54 штатов и территорий, направивших письмо лидерам Конгресса с призывом к созданию экспертного комитета для расследования потенциального использования ИИ для эксплуатации детей посредством сексуального насилия над детьми. 

Коалиция обратилась к экспертной комиссии с просьбой предложить законы, защищающие детей от подобного жестокого обращения. «Создание материалов сексуального характера создает постоянную запись о пережитом ребенком насилии», — говорится в заявлении Министерства юстиции США.