香港政府、AIによる詐欺に警告

香港政府は、AIを利用した詐欺の増加に対し、dentに対し新たな警告を発した。これは、香港の行政長官ジョン・リー・カー氏の画像が、疑わしい投資詐欺を助長するために詐欺師によってディープフェイクされたことを受けたものだ。.

香港政府、AIによる詐欺行為への警告を発令

政府はこの行為を非難し、このビデオは「詐欺目的の虚構」であるとして、国民に対し、このような宣伝に簡単に騙されたり、個人情報を提供しないよう警告した。

「国民は、同様の投資関連の広告やプロモーションビデオに騙されるべきではありません」と政府報道官は述べた。「オンラインで個人情報を提供したり、モバイルアプリに登録したり、リンクを開いたりすべきではありません。」

ここ数ヶ月、ChatGPTなどの生成ツールの人気を受けて、AIは世界中で大きな注目を集めています。しかし、これらのツールの計り知れない可能性は、詐欺師による悪用の可能性も孕んでおり、その一例がディープフェイクです。. 

ディープフェイクとは、AIによって生成された動画や音声で、対象者の容姿や声を操作します。既存の映像と音声を最先端のアルゴリズムでつなぎ合わせることで、詐欺師は、有名人、政治家、その他の信頼できる人物が商品を宣伝したり、暗号通貨スキームを宣伝したり、あるいは個人的なメッセージを送ったりしているかのように見せかける、説得力のあるシミュレーションを作成できます。.

詐欺師はAIを武器にしている

詐欺師は、人間が見慣れた顔や声を信じてしまうという本能的な性質を利用し、AIを武器にしてディープフェイクを作成することが増えています。その影響は広範囲に及び、公人への信頼を損ない、オンラインコミュニティに不和を生じさせ、何も知らない被害者に多大な経済的損失をもたらします。.

SCMPは、偽動画に騙されて1,700香港ドル（218米ドル）相当のゲームクレジットを失った日本の被害者を報じた。SCMPによると、2022年には、詐欺師たちがリー氏の画像や捏造画像を使って、疑わしい取引プラットフォームに人々を誘い込もうとしたという。.