AIが生成した画像は、偽のコンテンツを本物だと錯覚させる可能性があります。そのため、ChatGPTの開発元であるOpenAIは、画像が同社が開発した画像生成アルゴリズム「DALL-E 3」によって生成されたかどうかを判別できるツールを開発しました
OpenAIは火曜日、ベースラインモデルと調整済みモデルで構成される画像検出ツールの試用をユーザーに初めて提供しました。その目的は、自主的に研究を行う研究者を巻き込み、その懸念事項、有用性、適用方法、そしてAI生成コンテンツの原因となる可能性のある要因を検証することです。
ツールの成功率とテスト
OpenAIは社内でこのツールをテストしましたが、いくつかの点では期待が持てる一方で、非常に残念な結果も出ました。DALL-E 3で生成された画像を評価したところ、98%が正しくレンダリングされました。さらに、DALL-E 3以外で生成された画像を分析した場合、システムが誤ってDALL-E 3であると判定する割合はわずか0.5%でした。
OpenAIは、わずかに有意な差異を示す画像の変更は発見しませんでした。社内チームは、DALL-E 3で作成された画像に対して圧縮、トリミング、彩度変更を加えることでツールをテストしましたが、ツールは依然として良好なレベルの成功率を達成できることを確認しました。
課題と限界
残念ながら、このツールは高度な処理が施された画像にはあまり効果を発揮しませんでした。OpenAIのこの記事の文言では、彼らが説明しているケースでどの程度の修正を加えたのかが明確ではなく、「その他の修正はパフォーマンスを低下させる可能性がある」と述べています。
インタビューで、研究者のサンディニ・アガルワル氏は、このツールは画像の色調を変えるといった状況では効果が低く、サブスクリプションが必要だと述べました。アガルワル氏が述べたように、こうした問題に対処するため、OpenAIは外部のテスターをシステムに招聘する予定です。
さらに、社内テストでは、他社のAIモデルで作成された画像を分析するツールの能力にも疑問が投げかけられました。OpenAIのツールは、他社のモデルで作成された画像と比較して、わずか5%から10%しか認識できませんでした。また、色相の切り替えといった画像への変更も、効率を著しく低下させると、アガーワル氏はウォール・ストリート・ジャーナルに語りました。
AIが生成した画像は、単に人工的なだけでなく、今年の選挙において問題を引き起こしています。国内外を問わず、不満を持つグループは、こうした写真を容易に利用して、政治家志望者や支持する主張を貶めることができます。AI画像生成ツールが進化を続ける今日、現実と空想の境界線はかつてないほど曖昧になっています。
業界での採用
一方、OpenAIは、企業がユーザーバリューオーガニゼーション（UVG）に加盟するのに伴い、AI画像のメタデータに透かしを追加することを目指しています。C2PAは、ウォーターマークと呼ばれるプロセスでコンテンツの出所と真正性を明らかにするための技術標準を策定するテクノロジー業界のイニシアチブに属しています。Facebookの巨人Metaは今月初め、自社のAIが5月からC2PA標準に基づいてラベル付けされると発表しました。
