テックジャイアントがコンテンツ資格証明でディープフェイク脅威に対処するために結束

世界中で、ディープフェイクが大きな注目を集めています。AI生成のディープフェイクを使用する多くの国際企業が台頭するにつれ、この問題に対する一般的なアプローチについて合意が形成されています。今年初頭、GoogleはC2PAにおいて、OpenAI、Adobe、Microsoft、AWS、RIAAのメンバーなどとともに、運営委員会の一員となりました。ディープフェイクや主流なAIによる誤情報への懸念から、IT担当者はこの機関の取り組みを採用し、コンテンツの資格証明への具体的な言及を求めるようになります。

コンテンツ資格証明：新しい標準

業界は、視覚およびビデオデータの管理領域を横断的に規制しようとしており、ITチームはこれに特に注意を払います。コンテンツ資格証明は、クリエイターやコンテンツホルダーが適切なクレジットを取得し、エコシステムに誠実さをもたらすために活用できるデジタルメタデータの方法です。この取り返しのつかないメタデータにはアーティストの名前と詳細が含まれており、エクスポートまたはダウンロード時にコンテンツに直接刻印されます。

同じルールと許可の下で作成されたコンテンツラベルは、背後にある企業の重みにより、完全で受け入れられる世界で標準化されたラベル付けを実装する大きな可能性を秘めています。コンテンツ資格証明は、さまざまな理由でユニークな機会となります。それは、著者や創造プロセスに関する必要な情報を提供することで、視聴者間の信頼性と信頼性を強化するのに役立ちます。これは、誤情報や偽情報を撲滅するのに役立つ雰囲気を作り出します。 

アーティストの身元を強化し、ユーザーが認識や可視性のために追跡・接続できるようにするために、作品に連絡先情報を添付します。さらに、フェイクで人をだますために作成された偽のインターネットコンテンツなど、実在しないコンテンツを対象とした措置も講じられます。オーストラリアの歴史は、他の国と同様に、ディープフェイク詐欺の最大の急増を反映しています。Sumsubは、第3回ID詐欺レポートで、オーストラリアにおけるディープフェイクの数が前年比15倍に増加し、偽造メディアの精巧さが現実的な形式へとさらに進んでいると述べています。

人間の目はほぼ瞬時に警戒を解くため、ディープフェイクは非常に説得力を持ちます。研究によると、画像を分類するのに13ミリ秒しかかからない可能性があり、これは人間が情報を処理して認証または拒否するのに許される時間よりもはるかに短いです。オーストラリアのeSafetyコミッショナーは、「ディープフェイクを特定するためのイノベーションの開発は、まだ技術のペースに追いついていない」と指摘しています。オーストラリア政府は、ディープフェイクと戦うことを約束しています。

オーストラリアでのディープフェイクとの戦い

ディープフェイクは、すべてのオーストラリア人の安定性とセキュリティに非常に現実的な脅威をもたらします。長期的なディープフェイク防止キャンペーンは、ディープフェイクの仕組みと、これらのトリックにだからないために利用可能なオプションを理解するのに役立つ意識向上キャンペーンに焦点を当てるべきです。

このビジョンを実現するには、主要な供給側の利害関係者が技術を提供し、AIにおいて最も大きな影響を与えることで、業界全体の合意形成が必要です。しかし、そこで登場するのがコンテンツ資格証明です。コンテンツ資格証明は、ディープフェイクの問題を封じ込める標準を作成する最良の機会ですが、検出、規制、不正使用に対する処罰の問題は残ります。これは、予防策が業界ベースではなく、メディア業界の多くのリーダーによって支持されていないことを意味します。このような実装はインターネットの大きな部分に波及し、そのような時代には、ほとんどのウェブサイトが検索エンジンでのバイラルサイトと同様に瞬時に知識を持つようになります。

コンテンツの作成のためにITやAIに従事している人々は、それを欲しがるでしょう。彼らは、コンテンツが禁止されないように保護するために存在するセキュリティ、SEO、およびすべての標準との絡み合いのレベルに到達したWeb開発者と同様に、コンテンツ資格証明を理解する必要があります。彼らが取るべきステップには以下が含まれます：

コンテンツ資格証明の実装：まず、IT専門家は、コンテンツの真正性と追跡可能性を維持するために、企業がコンテンツ資格証明をワークフローに完全に実装および統合することを確保する必要があります。

透明性の推進：パートナーや顧客との内部および外部での提案は、組織がAIの使用について透明であり、コンテンツの作成と配布における倫理的慣行を受け入れるよう、組織的な推進につながります。

規制の支援：ディープフェイクによって引き起こされる課題に対抗するために、政策と規制の形成を導くために業界団体や政府を検討します。これには、政府がAIについて実施する多くの公聴会への参加だけでなく、政策作業の形成にも役立ちます。

協力：ディープフェイクのリスクを特定するための共有された一貫したアプローチとツールを作成し、他の専門家や組織とより大きな専門知識を組み合わせます。

対応戦略の準備：ディープフェイクが検出されたときにこの技術に対処し、損害やコミュニケーションの処理など、計画を準備します。

コミュニティリソースの活用：プラットフォームは、eSafetyコミッショナーなどのサイバーセキュリティコミュニティのリソースを活用し、最新の動向をタイムリーに把握する必要があります。

ディープフェイクの形成は、適用可能なソリューションを見つける必要がある情報技術専門家にとって最も困難な課題です。コンテンツ資格証明は、業界の残りが構築できる世界への優れた出発点を提供します。