Midjourney 5.1 や OpenAI の DALL-E 2 などの生成 AIプラットフォーム しかし、米国連邦捜査局（FBI）は最近、犯罪者がディープフェイクを悪用して被害者を恐喝の対象にしていると警告を発した。
FBI、恐喝詐欺について国民に警告
FBI によると、未成年者や同意のない成人を含む被害者から、写真やビデオが露骨な内容を作成するために操作されたとの報告を受けている。 月曜日に発表された公共サービス発表（PSA）の警告の中で、当局はオンライン恐喝事件、特にディープフェイクを利用した「セクストーション詐欺」に関する事件が蔓延していることを強調した。 法執行機関は前年だけで未成年者を対象としたオンライン恐喝に関する報告を7,000件以上受けており、4月以降ディープフェイクに関連したdent増加している。
ディープフェイクは、人工知能によって生成された捏造された音声またはビデオ コンテンツであり、多くの場合、素材の信頼性を識別することが困難になります。 Midjourney 5.1 や OpenAI の DALL-E 2 などのプラットフォームの台頭は、ディープフェイク技術の高度化とアクセシビリティの向上に貢献しました。 残念なことに、これにより、悪意のある攻撃者がこのテクノロジーを違法な目的に悪用することも可能になってしまいました。
同庁はテクノロジーの使用に伴うリスクを強調している
FBIの警告は、ディープフェイクの潜在的な危険性を浮き彫りにするいくつかのdentを受けて出された。 たとえば、テスラとツイッターのイーロン・マスクCEOをフィーチャーしたディープフェイク動画は、仮想通貨投資家を欺く目的で広く出回った。 操作されたビデオはマスク氏の以前のインタビューの映像を利用しており、詐欺の物語に合わせて巧みに編集されていた。
すべてのディープフェイクに悪意があるわけではないことに注意することが重要です。 、バレンシアガの白いジャケットを着た教皇フランシスコを描いたビデオなど、ユーモラスな要素や創造的な要素で注目を集めている さらに、AI によって生成されたディープフェイクは、死亡した個人をデジタル的に再現するために使用されており、さまざまな状況で死者を生き返らせることを目的としています。
これらの脅威に対応して、FBI はディープフェイク関連の恐喝を防ぐための推奨事項を提供しました。 彼らは、犯罪者がディープフェイクコンテンツの投稿を控えることを保証するものではないため、身代金を支払わないようにアドバイスしています。 同庁はまた、個人情報やコンテンツをオンラインで共有する際には注意を払うことの重要性を強調し、アカウントへのアクセスを制限するプライバシー機能の使用を提案している。 子どもたちのオンライン活動を監視し、過去の知人の異常な行動に警戒し、オンラインで個人情報や家族情報を頻繁に検索することが、FBI によって推奨されているさらなる対策です。
