Сенаторы требуют удалить приложения X и Grok из магазинов приложений Apple и Google

Три демократа-сенатора отправили письмо в пятницу, прося Apple и Google удалить приложения X и Grok из своих магазинов приложений до тех пор, пока Илон Маск не прекратит позволять пользователям создавать и распространять откровенные изображения без согласия и материалы, демонстрирующие сексуальное насилие над детьми.

Сенаторы Рон Уайден из Орегона, Эд Марки из Массачусетса и Бен Рей Лухан из Нью-Мексико написали главе Apple Тиму Куку и генеральному директору Google Сундару Пичаи, требуя «немедленно удалить приложения X и Grok из их магазинов приложений, пока генеральный директор компании Илон Маск не решит эти тревожные и, вероятно, незаконные действия».

Сенаторы предупредили технологические компании об игнорировании проблемы. «Игнорирование вопиющего поведения X будет высмеивать вашу практику модерации», — заявили они . Они также сказали, что бездействие «подорвет ваши заявления в публичном пространстве и в суде о том, что ваши магазины приложений обеспечивают более безопасный пользовательский опыт, чем прямая загрузка приложений на телефоны».

Масштабное злоупотребление дипфейками вызывает тревогу

Пользователи создавали и распространяли сексуальный контент с использованием дипфейков через Grok и X, используя фотографии людей, которые никогда не соглашались на использование своих изображений таким образом. Grok также создавал изображения, оскорбляющие людей на основе их расы или происхождения.

The Times of London описал один тревожный случай, когда родственница жертвы Холокоста была «цифрово раздетой» после того, как люди попросили Grok создать изображение, на котором она носит бикини в Освенциме.

Эти проблемы привели к расследованиям со стороны государственных чиновников в Европе, Малайзии, Австралии и Индии. Федеральная торговая комиссия и Министерство юстиции не сообщили, планируют ли они расследовать деятельность xAI.

3 января Маск и X заявили, что «любой, кто использует или запрашивает у Grok создание незаконного контента, понесет те же последствия, что и при загрузке незаконного контента».

Как Apple, так и Google имеют строгие правила для приложений, требующие от разработчиков предотвращать загрузку и распространение изображений, демонстрирующих сексуальное насилие над детьми, и другого вредоносного материала.

Ранее магазин приложений Apple удалил социальные сети и мессенджеры, такие как Tumblr и Telegram, за ненадлежащую блокировку неприемлемого контента.

В пятницу сообщалось, что X теперь ограничивает функции создания изображений Grok только платными подписчиками. Однако отдельное приложение и веб-сайт Grok по-прежнему позволяют пользователям просить систему создавать сексуальные или унижающие достоинство изображения людей без разрешения на использование их фотографий или видео.

Маск лично приказал о последних изменениях в Grok и хотел меньше защитных мер. Три сотрудника xAI из команды безопасности опубликовали в X, что они уволились после того, как Маск предъявил эти требования, согласно отчету.

Скандалы, связанные с поведением Grok не являются новыми. Чат-бот ранее подвергался критике за генерацию антисемитского контента и демонстрацию проблемных персонажей.

xAI привлекает масштабное финансирование несмотря на скандалы

В то время как компания сталкивалась с критикой, xAI объявила на этой неделе, что привлекла 20 млрд долларов от инвесторов, как ранее сообщалось Cryptopolitan. Раунд финансирования включал Nvidia и Cisco Investments, а также компании, которые поддерживали Маска ранее: Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX из Абу-Даби и Baron Capital Group.

Сумма в 20 млрд долларов превысила предыдущую цель в 15 млрд долларов. CNBC сообщила в ноябре, что финансирование оценит стартап в области искусственного интеллекта примерно в 230 млрд долларов. После первых сообщений о том, что xAI хотела 15 млрд долларов, Маск назвал эту историю «Ложью» в X.

Nvidia и Cisco работают с xAI как поставщики и партнеры.

Стартапы в области ИИ достигли экстремально высоких оценок в 2025 году, привлекая огромные суммы денег для удовлетворения спроса на их технологии. OpenAI завершила продажу акций на 6,6 млрд долларов в октябре с оценкой в 500 млрд долларов. Месяц спустя Anthropic достигла оценки около 350 млрд долларов, получив деньги от Microsoft и Nvidia.