Ирландия выражает обеспокоенность по поводу misuse Grok в X

Ирландия выразила обеспокоенность по поводу misuse искусственного интеллекта чат-бота Grok на платформе для ведения блогов X. Согласно сообщениям, недовольство было выражено руководителям компании на недавней встрече, состоявшейся в стране. Это ставит Ирландия в длинный список стран, обеспокоенных последствиями действий чат-бота.

За последние несколько недель страны и их лидеры раскритиковали платформу, ее владельца, Илона Маска, и его чат-бота, Grok. Это связано с тем, что некоторые пользователи теперь используют чат-бота для генерации сексуализированных изображений женщин и детей. В то время как некоторые страны угрожали юридическими санкциями, другие призвали платформу принять меры для защиты детей и женщин от цифровой эксплуатации.

Ирландия требует от X принять корректирующие меры

На встрече министр по вопросам искусственного интеллекта Ниаф Смит отметила корректирующие меры, которые компания заявила о принятии для сдерживания угрозы. Это произошло после того, как руководители сообщили ей, что Grok был отключен от возможности удалять или уменьшать одежду на изображениях людей по всему миру. Новое развитие событий последовало после того, как платформа подтвердила, что будет «геоблокировать» возможность пользователей X и Grok создавать изображения людей в ограниченной одежде.

В своем заявлении платформа упомянула, что эти запросы будут приостановлены только в регионах, где такие действия были признаны незаконными. Во время встречи ирландский министр по вопросам ИИ выразила свою обеспокоенность тем, что на публичной платформе генерируются и публикуются интимные изображения без согласия и материалы сексуального насилия над детьми. Она сказала руководителям компании, что сложность систем защиты должна соответствовать сложности технологии.

Однако Смит отметила, что ее обеспокоенность по поводу Grok как отдельного приложения сохраняется, отметив, что ирландскому правительству потребуется изучить его более подробно. Она добавила, что будет продолжать внимательно следить за ситуацией. Ниаф также добавила, что в будущем запланирована личная встреча с руководителями X для обеспечения того, чтобы адекватные и долгосрочные защиты от этой технологии оставались в силе.

Страны продолжают критиковать X и его чат-бот Grok

Обновленная критика последовала после того, как платформа, как утверждается, не смогла сдержать генерацию угрозы, несмотря на обещание остановить и приостановить пользователей, которые их генерируют. В этот период британский регулятор связи Ofcom отметил, что он установил срочный контакт с X и xAI, чтобы понять, что они делают для соблюдения своих юридических обязанностей по защите пользователей в Великобритании. Регуляторный орган тогда упомянул, что оценит, необходимо ли расследование.

После своего заявления правительство Индонезии объявило, что приняло решительные меры в отношении чат-бота. Страна упомянула, что чат-бот останется временно запрещенным, сославшись на необходимость защиты женщин и детей от опасностей откровенного контента, созданного ИИ. «Правительство рассматривает сексуальные дипфейки без согласия как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», — сказала страна.

Разработка была осуществлена после того, как премьер-министр Австралии Энтони Альбаниж выступил в поддержку стран, критикующих платформу, призвав их поступить правильно с точки зрения защиты уязвимых пользователей. Офис по безопасности в интернете Австралии отметил, что количество полученных им сообщений было относительно небольшим; однако он указал на рост числа обращений, связанных с инцидентом, по сравнению с предыдущими годами. Надзорный орган пообещал использовать свои полномочия, предусмотренные Законом Австралии о безопасности в интернете, для удаления такого контента.