人工知能 (AI) が関与した画期的な事件で、 9 人の命を奪った列車事故に関するフェイクニュース記事を捏造するために ChatGPT を使用した疑いで中国の男が逮捕された。
前例のない法的規制に基づいてdentで取られた最初の執行措置であり、先端技術の使用を規制および管理する中国の取り組みを浮き彫りにしている。
ChatGPTフェイクニュースdent
中国北西部の甘粛省で、ChatGPTを使って列車dentに関する偽ニュースを作成した疑いで警察に逮捕されたのは、ホンという名前だけdentた男性だ。
この偽記事は、中国の検索大手バイドゥが所有するブログプラットフォームに20以上のアカウントによって投稿され、1万5000件以上の閲覧を集めた。
プラットフォーム上の重複チェックを回避するために、Hong 氏は ChatGPT を使用して誤ったニュース記事のわずかに異なるバージョンを生成したとして告発されています。
ChatGPT は、米国の OpenAI が開発した、生成 AI 技術を活用したチャットボットです。 このテクノロジーにより、ソフトウェアは、特定の指示からストーリーを作成するなど、ユーザーのプロンプトや質問に基づいて応答を生成できます。
ChatGPT は中国ではブロックされていますが、仮想プライベート ネットワーク (VPN) を介してアクセスすることは可能であり、国のインターネット制限を回避できます。
ChatGPTのようなAIの人気の高まりと潜在的なリスクに対応して、中国当局は今年、「深層合成技術」を管理する初めての法律を導入した。
この法律は、AI を使用してテキスト、画像、ビデオ、その他のメディアを生成することを包含しており、深層合成サービスを通じたフェイク ニュースの拡散を禁止しています。
中国ハイテク大手の慎重なアプローチ
ChatGPT がtracを増し、急速に広まっている一方で、中国のインターネット環境は厳しく検閲され、管理されているため、政府は中央当局に課題をもたらす可能性のある新技術に対処する法律の制定を促しています。
その結果、中国のテクノロジー大手は AI アプリケーションへのアプローチに慎重になり、ChatGPT のようなチャットボットの普及を避け、代わりに特定のユースケースに焦点を当ててきました。
例えばアリババは、Tongyi Qianwen AI 製品の開発に取り組んでおり、最終的には職場通信ソフトウェア DingTalk やスマート家電プロバイダーの Tmall Genie に実装される予定です。
この戦略的アプローチは、規制当局と政府の懸念に応えるものであると考えられています。
深層合成技術を規制する新法に基づくホン氏の逮捕は、中国におけるAIの悪用の潜在的な結果をはっきりと思い出させるものとなっている。
テクノロジーが進歩し続けるにつれて、中国のような国にとって、特にフェイクニュースや誤った情報の分野で、AIによってもたらされる潜在的な脅威に対処するガイドラインや規制を確立することが重要です。
中国のハイテク大手による現在進行中の AI を活用したチャットボットとアプリケーションの開発は、規制当局や政府の警戒を避けるために特定のユースケースに焦点を当てながら、慎重な監督の下で継続される可能性が高い。
AI テクノロジーが進化し、より洗練されるにつれて、安全で信頼性の高いデジタル環境を確保するには、イノベーションと規制のバランスを取ることが重要になります。
