- Правительство Южной Кореи рассматривает возможность принятия регуляторных мер против чат-бота xAI Grok.
- Комиссия по защите персональных данных (PIPC) провела предварительный анализ чат-бота на основе местных и международных отчетов.
- Регулятор требует, чтобы компания xAI представила отчет о том, как она планирует устранить угрозу, или рискует получить штраф.
Правительство Кореи рассматривает регуляторные меры против чат-бота генеративного искусственного интеллекта (ИИ) Grok, принадлежащего компании xAI Илона Маска. Это следует за рядом критических замечаний в адрес чат-бота и его участия в создании и распространении сексуально эксплуатационных дипфейк-изображений.
Эта информация была сообщена местным новостным изданием Electronic Times, которое упомянуло, что Комиссия по защите личной информации (PIPC) начала предварительное расследование фактов в отношении Grok после того, как обвинения были сообщены в стране несколькими лицами.
Предварительный процесс предназначен для подтверждения того, действительно ли произошло нарушение и находится ли вопрос в пределах его юрисдикции, прежде чем можно будет начать официальное расследование.
Правительство Кореи проведет проверку в отношении Grok
Согласно сообщениям, расследование следует за несколькими отчетами, появившимися локально и за рубежом, обвиняющими Grok в использовании для создания откровенных и несанкционированных дипфейк-изображений, большинство из которых касались реальных людей и несовершеннолетних.
Таким образом, PICP, как сообщается, определит свой дальнейший курс действий после рассмотрения объяснений, предоставленных Grok, и других подтверждающих документов. Также ожидается, что агентство рассмотрит глобальные тенденции регулирования, которые повлияют на его принятие решений.
В соответствии с Законом о защите личной информации изменение или создание сексуальных изображений идентифицируемых лиц без согласия может составлять незаконную обработку персональных данных.
Чат-боты на базе ИИ, интегрированные в социальную платформу X и предлагающие генерацию текста и изображений на платформе, столкнулись с рядом критических замечаний по поводу создания фейковых изображений реальных людей с прошлого года. Чат-бот использовался для создания всевозможных компрометирующих изображений, которые вызвали неодобрение у широкой публики.
По оценкам международной неправительственной организации Center for Countering Digital Hate, с 29 декабря 2025 года по 8 января 2026 года с помощью Grok было сгенерировано более трех миллионов изображений сексуального характера.
Организация утверждает, что среди этого числа более 23 000 изображений были сгенерированы с использованием чат-бота и содержали изображения несовершеннолетних. Центр предупредил, что быстрое распространение AI-изображений, созданных Grok, привело к масштабному распространению откровенного контента в интернете.
Регулятор требует отчет о мерах, принятых для сдерживания этой угрозы.
Центр также предупредил о серьезных рисках для безопасности, которые представляет это развитие для детей. В результате этой угрозы такие страны, как Соединенные Штаты, Великобритания, Франция, Канада и некоторые другие, начали расследования, в то время как такие страны, как Индонезия, Филиппины и Малайзия, заблокировали доступ к Grok.
В ответ на скандал xAI объявила в начале этого года, что внедрила определенные технические меры для предотвращения этого.
Платформа заявила, что запретила как бесплатным, так и платным пользователям редактировать или генерировать изображения реальных людей, добавив, что в ближайшее время будут объявлены дополнительные меры защиты.
В Южной Корее Комиссия по медиа и коммуникациям (KMCC) 14 января потребовала от X усиления мер защиты молодежи. Корейский регулятор сообщил социальной сети, что ее AI-подразделение должно разработать план по предотвращению генерации незаконного или вредоносного контента.
Кроме того, регулятор добавил, что компании необходимо ограничить доступ несовершеннолетних к такому контенту.
В настоящее время X имеет назначенного в соответствии с законом сотрудника по защите молодежи в Корее и ежегодно представляет отчеты о соответствующем соблюдении нормативных требований. KMCC настоятельно призвала платформу предоставить дополнительные документы, касающиеся протоколов безопасности Grok, отметив, что создание и распространение сексуальных изображений без согласия, особенно с участием несовершеннолетних, является уголовным преступлением в Корее.
Комиссия установила двухнедельный срок. Если X не ответит или проигнорирует запрос, она может наложить административный штраф до 10 миллионов вон (6 870 долларов США). Аналогичные меры были приняты в других странах, где xAI поручено разработать меры по сдерживанию роста этой угрозы.
Как и в Корее, в других странах также объявлено о значительных штрафах, если компания не разработает и не представит отчет, демонстрирующий шаги, предпринятые для ограничения роста угрозы.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Овотунсе Адебайо
Адебайо — писатель с четырёхлетним опытом работы в сфере криптовалют. Он окончил Университет Лагоса, где изучал городское и региональное планирование. Адебайо работал в Tokenhell и CryptoTicker, освещая новости криптовалют и финтеха. В настоящее время он является новостным автором в Cryptopolitan.
