AIによる偽ニュース生成により中国で男性逮捕：報道

「ホン」という名前のみの男が、ChatGPTサービスを使用して偽のニュース記事を生成した疑いで、中国の甘粛地区で逮捕されました。ホンの逮捕は、中国のテクノロジー巨大企業である百度がホスティングする人気ブログサイト上で、列車事故に関する根拠のない記事の調査が行われた後に発覚しました。サイバーセキュリティ専門家は、少なくとも20のアカウントが同時に偽のニュース記事を投稿していたことを発見し、ホンの逮捕につながりました。

中国には、ソーシャルメディアの使用に関する世界で最も厳しい法律のいくつかがあり、ホンは「人工知能技術を使用して虚偽かつ不実な情報を捏造した」として逮捕されました。これは、インターネット上での偽ニュースや噂の拡散を特にカバーする「喧嘩を売り、トラブルを誘発する」条例に抵触するものです。起訴された場合、通常の法律では最大5年の懲役刑に処せられますが、裁判所が犯罪を特に重大と見なした場合、最大10年の刑に処される可能性があります。

現在、ChatGPTサービスは中国で禁止されていますが、その使用は仮想プライベートネットワーク（VPN）によって隠蔽することができます。しかし、国内製のAIサービス、例えば最近英語と中国語の両方で質問に答えるように訓練された生成AIモデルとして発表されたアリババの「通義千問」などは、中国政府の承認を得ています。通義千問がChatGPTと同じ創造的な能力を持つかどうかは不明です。

AI技術の誤用への高まる懸念

中国における堅牢な生成型人工知能モデルの欠如は、特にフィンテックや暗号通貨取引などの分野で、ChatGPTやOpenAIのGPT APIを基にした製品の使用が急増している中で、同国のテックシーンに冷ややかな影響を与える可能性があります。中国政府は人工知能技術の使用を継続的に監視し、虚偽情報の拡散にそれらを使用する者に対して取り締まりを強化していくでしょう。

この事件はまた、人工知能技術の誤用への高まる懸念を浮き彫りにしています。人工知能は幅広い業界を変革する巨大な可能性を秘めていますが、同時に重大なリスクも孕んでいます。説得力のある偽のニュース記事を迅速かつ容易に生成する能力は、メディアや政府への公衆の信頼に深刻な影響を及ぼす可能性があります。人工知能がさらに進化し続ける中で、その誤用を防ぎ、公の利益のために使用されるようにするための効果的な戦略を開発することが不可欠です。