Правительство Кореи намерено принять меры по контролю за чат-ботом Grok, использующим генеративный искусственный интеллект (ИИ) и принадлежащим Илону Маску. Это произошло после ряда критических замечаний в адрес чат-бота и его участия в создании и распространении дипфейк-изображений сексуального характера.
Информация была опубликована местным новостным изданием Electronic tron , которое сообщило, что Комиссия по защите персональных данных (PIPC) начала предварительное расследование в отношении компании Grok после того, как в округе поступили сообщения предполагаемых нарушениях
Предварительная процедура заключается в подтверждении того, действительно ли имело место нарушение и находится ли дело в пределах юрисдикции суда, прежде чем можно будет начать официальное расследование.
Правительство Кореи проведет проверку компании Grok
Согласно сообщениям , проверка проводится после нескольких публикаций в стране и за рубежом, в которых Grok обвинялся в использовании для создания откровенных и несанкционированных дипфейк-изображений, большинство из которых содержали изображения реальных людей и несовершеннолетних.
Таким образом, по имеющимся данным, PICP определит свои дальнейшие действия после рассмотрения объяснений, предоставленных Гроком, и других подтверждающих документов. Ожидается также, что агентство изучит глобальные тенденции в области регулирования, которые повлияют на процесс принятия решений.
В соответствии с Законом о защите персональных данных, изменение или создание изображений сексуального характера сdentидентифицируемых лиц без их согласия может представлять собой незаконное обращение с персональными данными.
Чат-боты с искусственным интеллектом, интегрированные в социальную платформу X и предлагающие генерацию текста и изображений, с прошлого года подвергаются критике за создание поддельных изображений реальных людей. Чат-бот использовался для создания всевозможных компрометирующих изображений, которые вызвали неодобрение у общественности.
По данным международной неправительственной организации «Центр по борьбе с цифровой ненавистью», с 29 декабря 2025 года по 8 января 2026 года с помощью Grok было создано более трех миллионов изображений сексуального характера.
Организация утверждает, что среди этого числа более 23 000 изображений были изображениями несовершеннолетних, созданными с помощью чат-бота. Центр предупредил, что быстрое распространение изображений, созданных с помощью ИИ Grok, привело к масштабному распространению контента откровенного характера в интернете.
Регулятор требует отчет о мерах, принятых для борьбы с этой угрозой
Центр также предупредил о серьезных рисках для безопасности детей, которые представляет данная разработка. В результате этой угрозы такие страны, как США, Великобритания, Франция, Канада и некоторые другие, начали расследования , а такие страны, как Индонезия, Филиппины и Малайзия, заблокировали доступ к Grok.
В ответ на возникшую полемику компания xAI объявила ранее в этом году о внедрении ряда технических мер для предотвращения подобных инцидентов.
Платформа заявила, что заблокировала возможность редактирования или создания изображений реальных людей как для бесплатных, так и для платных пользователей, добавив, что в ближайшее время объявит о дополнительных мерах безопасности.
В Корее Комиссия по СМИ и коммуникациям (KMCC) 14 января потребовала от Xtronмер по защите молодежи. Корейский регулятор заявил социальной сети, что ее компания, занимающаяся разработкой искусственного интеллекта, должна разработать план по предотвращению создания незаконного или вредоносного контента.
Кроме того, регулирующий орган также добавил, что компания должна ограничить доступ несовершеннолетних к подобному контенту.
В настоящее время в Корее у X есть назначенный сотрудник по защите несовершеннолетних в соответствии с законом, который ежегодно предоставляет отчеты о соблюдении соответствующих требований. KMCC призвала платформу предоставить дополнительную документацию относительно протокола безопасности Grok, отметив, что создание и распространение на платформе изображений сексуального характера без согласия, особенно с участием несовершеннолетних, является уголовным преступлением в Корее.
Комиссия установила двухнедельный срок. Если X не ответит или проигнорирует запрос, она может наложить административный штраф в размере до 10 миллионов вон (6870 долларов США). Аналогичные меры были приняты и в других странах, где xAI было поручено разработать меры по сдерживанию роста этой угрозы.
Как и Корея, эти страны также объявили о существенных штрафах, если компания не разработает и не представит отчет, демонстрирующий предпринятые ею шаги по ограничению роста этой проблемы.
