Премьер-министр Австралии раскритиковал X за использование Grok для создания оскорбительного контента

Премьер-министр Австралии Энтони Албанезе раскритиковал блог-платформу X за использование Grok для создания непристойных изображений. Албанезе выразил свое возмущение в связи с опасениями по поводу использования чат-бота с искусственным интеллектом Grok для распространения контента сексуального характера, содержащего элементы эксплуатации.

Хотя количество сообщений, поступающих в австралийское управление по безопасности в интернете, остается небольшим, отмечается недавний всплеск сообщений обdent, связанных с использованием чат-бота для создания изображений сексуального или эксплуатационного характера. В своем заявлении надзорный орган предупредил, что будет использовать свои полномочия, включая уведомления об удалении, в тех случаях, когда материалы, созданные с помощью чат-бота, соответствуют порогу defiв австралийском Законе о безопасности в интернете.

Согласно Управлению по вопросам безопасности в интернете, платформа, ее чат-бот и широкий спектр других сервисов также подпадают под действие обязательств по обеспечению безопасности, предусматривающих выявление и удаление материалов, содержащих сексуальную эксплуатацию детей, и других противоправных материалов в соответствии с ведущим в мире австралийским отраслевым кодексом и стандартами. Премьер-министр Австралии выразил свое недовольство в субботу, присоединившись к другим мировым лидерам, включая своего британского коллегу Кира Стармера, в критике социальной сети.

Премьер-министр Австралии раскритиковал X за неправомерное использование Grok

«Использование генеративного ИИ для эксплуатации или сексуализации людей без их согласия отвратительно», — заявил он журналистам в Канберре. «Тот факт, что этот инструмент использовался для создания изображений через Grok, на мой взгляд, просто совершенно отвратителен», — добавил , что этотdent является еще одним примером отсутствия социальной ответственности в социальных сетях, и подчеркнул, что австралийцы и население всего мира заслуживают лучшего.

Их критика не лишена оснований и является частью глобальной волны недовольства чат-ботом Grok на этой неделе, которая побудила компанию X ограничить использование своего ИИ для создания и редактирования изображений, сделав этот инструмент доступным только для платных подписчиков. В пятницу Grok отказывался выполнять запросы пользователей без подписки, которые просили об цифровой обработке изображений. «Создание и редактирование изображений в настоящее время доступны только платным подписчикам. Вы можете оформить подписку, чтобы разблокировать эти функции», — говорилось в чат-боте.

В заявлении представителя Управления по вопросам электронной безопасности говорится, что большинство полученных жалоб касались проблем, связанных с изменением изображений взрослых, в то время как небольшой процент жалоб был связан с потенциальными материалами, содержащими элементы сексуальной эксплуатации детей. «Сообщения о злоупотреблениях с использованием изображений были получены совсем недавно и все еще находятся на рассмотрении», — говорится в заявлении агентства. «Что касается сообщений о незаконном и ограниченном контенте, то материалы не соответствуют критериям классификации как материалы, содержащие элементы сексуальной эксплуатации детей класса 1»

В результате Управление по вопросам безопасности в интернете заявило, что отказывается выдавать уведомления об удалении или принимать меры принудительного характера в отношении этих жалоб. Однако представитель ведомства отметил, что сохраняются опасения по поводу роста использования ИИ для эксплуатации детей. «Это подчеркивает важность принципа безопасности на этапе проектирования, включая необходимость того, чтобы продукты на основе генеративного ИИ имели соответствующие меры защиты и ограничения, встроенные на каждом этапе жизненного цикла продукта, чтобы предотвратить неправомерное использование и превращение этих технологий в оружие до того, как будет причинен вред», — говорится в заявлении.

Индонезия временно банит Грока из-за дипфейка

С другой стороны, Индонезия предприняла решительные действия против чат-бота Grok. Министерство связи и цифровых технологий объявило об этом в субботу, сославшись на острую необходимость защиты детей и женщин от вреда, причиняемого контентом откровенного характера, созданным с помощью ИИ. «Правительство рассматривает создание дипфейков сексуального характера без согласия как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», — заявил министр Меутья Хафид в официальном заявлении.

Она заявила, что злоупотребление ИИ для создания поддельной порнографии равносильно одной из форм цифрового насилия. Между тем, Индонезия требует от цифровых платформ страны доказать наличие мер защиты, предотвращающих создание и распространение запрещенного контента. В рамках этих мер министерство вызвало компанию X (ранее известную как Twitter). Компания предоставит разъяснения, объяснив меры, принятые для пресечения распространения этой угрозы.