人工知能（AI）で作成された動画が、観光客を実際には存在しない場所へ連れて行くように仕向けている。最近の報道によると、あるカップルが山頂のケーブルカー「クアック・スカイライド」に乗るチャンスを狙って、興奮しながら何時間もかけて山頂まで移動したという。このカップルは、観光客が笑顔で、テレビ司会者がその体験を解説する動画をオンラインで見たのだ。.
しかし、二人が現場に到着すると、事態は一変した。小さな町に着いた彼らは、彼らが何を話しているのか理解していない地元の人々を困惑させた。結局、その動画はAIによって生成されたもので、二人はそれが本物だと信じていたことが判明した。.
「なぜこんなことをするのでしょう？」マレーシアの高齢女性は、その夢の場所がグーグルが開発した生成人工知能エンジン「 Veo3」。
AIが人々に偽の動画を信じ込ませている
TikTokで偶然この動画を見つけ、夫に場所を知らせたとのこと。二人とも景色に感動し、実際に行ってみることにしたという。動画は非常に説得力があり、テレビの司会者がトラムに乗り込み、楽しそうな観光客にインタビューするほどだった。しかし、彼らは動画の右下にVeo3のロゴがあることに気づかなかった。このロゴは、動画がVeo3で作成されたことを示している。
この混乱は笑止千万ではあるものの、人工知能。このdent、犯罪者や詐欺師が夢の旅行先への訪問料を支払わせようとしたり、旅行登録のための偽のリンクを送りつけようとしたりする必要はありませんでした。しかし、悪意のある人物がこのような動画を使って違法行為を実行することがいかに容易であるかを示しています。
AIの登場により、現実の出来事と偽物の区別が難しくなりました。休暇の計画といった些細な行動でさえ、人々が注意深く見守る必要が生じたのです。このマレーシア人カップルの体験は、一見dentの出来事のように見えるかもしれませんが、AIがあらゆるものを容易かつ驚くほど正確に作り出せる世界において、私たちが見聞きし、経験する物事への信頼を問い直す必要があることを示しています。.
人工知能のブラックホールは拡大し続けている
これらの数字は、デジタル詐欺への集団的な堕落という見方を裏付けています。例えば、ディープフェイク攻撃は、3年前の全詐欺行為の約0.1%から現在では約6.5%に増加しており、これは2,137%という大きな増加であり、15件に1件の割合で詐欺が発生していることを表しています。これは、dentサービス企業Signicatが2025年2月に発表したレポートで示されています。.
統計は単なる数字ではありません。そこには実際の被害者がいるからです。典型的な例が、82歳の退職者スティーブ・ボーシャン氏です。彼はディープフェイクdentの後、彼の老後の蓄えはデジタルの虚空へと消え去りました。
AIによる欺瞞は、人間の経験のあらゆる側面にまで及んでいます。英国のエンジニアリング会社アラップ社は、CFOをはじめとする社員のディープフェイクを使ったビデオ会議中に従業員の一人が騙され、2,500万ドル以上の損失を被りました。また、ある学校の校長は、AIによって操作された人種差別的・反ユダヤ的な発言をしている動画を視聴した後、殺害予告を受けました。後に、その校長の体育部長が校長の信用を失墜させるためにこの動画を作成したことが判明しました。.
AIが欺瞞の技術を極める以前から、観光は既に人工現実の世界に深く浸透していました。ソーシャルメディアは旅行をセルフィーツーリズムへと変貌させ、多くの観光客はインスタグラムに載せる最高の写真を撮るためだけに、休暇を過ごす価値のある目的地へと足を運びます。ユネスコもこの点について3つの警告を発令し、旅行者が象徴的なランドマークを訪れるのは「主に自分の写真を撮り、共有するためであり、多くの場合、象徴的なランドマークを背景にしている」と警告しました。
