韓国政府、ディープフェイク画像をめぐるGrokを調査

韓国政府は、Elon Musk所有のxAIによる生成AIチャットボット、Grokに対して規制措置を検討している。これは、チャットボットに向けられた複数の批判、および性的搾取的なディープフェイク画像の生成・配布への関与に続くものである。

この情報は、地方ニュースメディア『Electronic Times』によって報じられ、同紙は、州内で複数の個人によって疑惑が報告された後、個人情報保護委員会（PIPC）がGrokに関する予備的な事実調査を開始したと伝えた。

予備的なプロセスは、正式な調査を開始する前に、違反が実際に発生したかどうか、およびその事項が管轄権内にあるかどうかを確認するためのものである。

韓国政府、Grokに関するレビューを実施

報道によると、この調査は、国内および海外で浮上した複数の報告に続き、Grokが性的に露骨で同意のないディープフェイク画像の作成に使用されていると非難するものである。その多くは実在の個人や未成年者に関与している。

これにより、PIPCはGrokから提供された説明およびその他の支援文書を検討した後、次の行動方針を決定すると報告されている。同機関はまた、意思決定を形成するグローバルな規制動向もレビューすると見られている。

個人情報保護法の下では、同意なく特定可能な個人の写真を変更または生成することは、個人情報の違法な取扱いとみなされる可能性がある。

ソーシャルプラットフォームXに統合され、同プラットフォーム上でテキストおよび画像生成を提供するAIチャットボットは、昨年以降、実在の人物の偽画像の作成について複数の批判を受けてきた。このチャットボットは、あらゆる種類の不利な画像の作成に使用され、一般市民から非難されてきた。

グローバルな非政府組織「Center for Countering Digital Hate」によると、Grokは2025年12月29日から2026年1月8日の間に、300万枚以上の性的に露骨な画像の生成に使用されたと推定されている。

同組織は、その数のうち23,000枚以上がチャットボットを使用して生成された未成年者の画像であると主張する。同センターは、GrokのAI生成画像の急速な拡散が、オンラインでの露骨なコンテンツの大規模な流通につながったと警告している。

規制当局は、脅威を抑制するために講じられた措置に関する報告書を求めている

同センターはまた、この開発が子供たちにもたらす深刻な安全リスクについても警告している。この脅威の結果、米国、英国、フランス、カナダなどの国々では調査が開始され、インドネシア、フィリピン、マレーシアなどの国々ではGrokへのアクセスがブロックされている。

この論争への対応として、xAIは今年初めにこれを防止するために特定の技術的措置を実装したと発表した。

プラットフォームは、無料ユーザーと有料ユーザーの両方に対して、実在の人物の画像を編集または生成することを停止したと主張し、さらに保護措置をまもなく発表すると付け加えた。

韓国では、メディア・通信委員会（KMCC）が1月14日、Xに対してより強力な青少年保護措置を要求した。韓国の規制当局は、ソーシャルメディアプラットフォームに対し、そのAI企業が違法または有害なコンテンツの生成を防止する計画を立てる必要があると伝えた。

さらに、規制当局はまた、企業が未成年者のそのようなコンテンツへのアクセスを制限する必要があると付け加えた。

現在、Xは法律に基づき韓国に青少年保護責任者を任命し、関連するコンプライアンスに関する年次報告書を提出している。KMCCは、プラットフォームに対し、Grokの安全プロトコルに関する追加文書の提出を促し、そのプラットフォーム上で作成・配布された同意のない性的画像、特に未成年者に関与するものは韓国で犯罪行為であると指摘した。

委員会は2週間の期限を設定した。Xが応答しないか、要請を無視した場合、最大1,000万ウォン（約6,870ドル）の行政罰金が科せられる可能性がある。この動きは、他の国々でも目撃されており、xAIには脅威の増加を抑制する措置を講じるよう命じられている。

韓国と同様、これらの国々も、企業が脅威の増加を制限するために講じた措置を示す報告書を策定・提出しない場合、 substantialな罰金を科すことを発表した。