Испания начинает судебное преследование X, Meta и TikTok из-за рисков злоупотребления ИИ

Испания начала судебное преследование X, Meta и TikTok по утверждениям, что их модели ИИ помогли создать и распространить материалы сексуального насилия над детьми.

Премьер-министр Испании Педро Санчес заявил во вторник, что кабинет министров invoke статью 8 Органического устава Обвинительной службы. Он написал:

«Сегодня Совет министров invoke статью 8 Органического устава Обвинительной службы, чтобы запросить расследование преступлений, которые X, Meta и TikTok могут совершать путем создания и распространения детской порнографии с помощью их ИИ.»

Педро добавил: «Эти платформы атакуют психическое здоровье, достоинство и права наших сыновей и дочерей. Государство не может этого допустить. Безнаказанность гигантов должна закончиться.»

Две недели до этого юридического запроса Педро поделился новыми планами по борьбе с онлайн-abusом в Испании, пообещав заблокировать доступ к социальным сетям для всех, кому меньше 16 лет.

В ноябре Педро заявил, что парламент Испании расследует Meta на предмет возможных нарушений конфиденциальности, затрагивающих пользователей Facebook и Instagram.

Данные британского Internet Watch Foundation показывают, как быстро растет проблема. В прошлом году он отметил 3 440 видео сексуального насилия над детьми, сгенерированных ИИ. В предыдущем году он сообщил только о 13.

Европа продолжает ужесточать enforcement против крупных технологических компаний

Действия Испании добавляют к растущему напряжению между европейскими правительствами и крупными американскими технологическими компаниями. Эти компании имеют поддержку администрации Дональда Трампа, 47-го президента США, избранного в 2024 году и служащего в 2026 году.

Европейские лидеры утверждают, что платформы должны защищать пользователей. Американские политики и технологические руководители утверждают, что строгое регулирование рискует ограничить свободу слова. Разногласия теперь разыгрываются в судах и регулирующих органах.

В декабре Европейский союз оштрафовал X на 120 миллионов евро, около 140 миллионов долларов, согласно Закону о цифровых услугах. Это было первое наказание, вынесенное по этому закону. В этом месяце французская полиция обыскала местные офисы X в рамках расследования киберпреступлений, связанных с распространением детской порнографии и отрицанием Холокоста на платформе.

Комиссия по защите данных Ирландии также вмешалась. Регулятор, который обеспечивает соблюдение Общего регламента по защите данных Европейского союза, заявил в понедельник поздно вечером, что он открыл официальное расследование создания и публикации того, что он назвал «потенциально вредными» сексуализированными изображениями, созданными Grok.

Беспокойство вызывает то, что эти изображения могли включать обработку персональных данных, принадлежащих пользователям в ЕС.

Grok встроен непосредственно в ленту социальных сетей на X. Он был разработан ИИ-компанией Элона Маска xAI, которая купила X в прошлом году. В начале этого месяца xAI объединилась с ракетной компанией Маска SpaceX. Сделка создала объединенную группу стоимостью 1,5 триллиона долларов.

Ирландское расследование — это последнее действие, предпринятое регуляторами по всему миру против X. В начале января тысячи сексуализированных deepfake-изображений женщин были сгенерированы с использованием Grok. Изображения быстро распространились в сети. Реакция была немедленной. Пользователи, эксперты по онлайн-безопасности и политики все отреагировали сильно.

Грэм Дойл, заместитель комиссара в ирландском регуляторе, сказал, что агентство уже связалось с X после того, как СМИ впервые появились несколько недель назад. Он сказал, что эти сообщения жаловались на то, что пользователи могли запросить аккаунт @Grok на X для генерации сексуализированных изображений реальных людей, включая детей.