- OpenAI はディープフェイクの脅威に対処するため、AI 生成画像を特定できるツールをリリースしました。
- この検出器は DALL-E 3 モデルからの画像の 98% を追跡できますが、改変された画像の検出には失敗します。
- OpenAI は実験の実施や外部研究者との連携を通じて、ツールのさらなる発展を図る計画です。
AI生成画像は、偽のコンテンツをオリジナルと認識させるようにあなたを欺く可能性があります。そのため、ChatGPTの開発者であるOpenAIは、画像が彼らが開発した画像生成アルゴリズムであるDALL-E 3の結果であるかどうかを判断できるツールを作成しました。
火曜日、OpenAIはユーザーに、ベースラインモデルと調整済みモデルで構成される画像検出ツールの最初のテストドライブの機会を与えました。 目的は、自己実行する研究者を関与 させ、AI生成コンテンツが引き起こす可能性のある懸念、有用性、適用方法、および要因を調査することです。
ツールの成功率とテスト
OpenAIはツールを内部でテストし、いくつかの側面では励みになるものでしたが、一方で非常にがっかりするものでした。DALL-E 3によって生成された画像を評価すると、98%を正しくレンダリングしました。さらに、DALL-E 3によって作成されていない画像を分析する場合、システムはそれらをDALL-E 3に誤って帰属させるのは0.5%の時間だけでした。
OpenAIは、わずかに有意な差異のある画像の改変を検出できませんでした。内部チームは、DALL-E 3によって作成された画像に対して圧縮、切り抜き、彩度変更などの処理を施してツールをテストしましたが、ツールは依然として良好な成功率を達成できることが観察されました。
課題と制限
残念ながら、このツールは大幅に処理された画像に対してはあまり効果的ではありませんでした。OpenAIの記事の記述では、彼らが説明しているケースで何回改変を行ったかが明確ではなく、「他の改変はパフォーマンスを低下させる可能性がある」と述べています。
The Wall Street Journalとのインタビュー で、研究者のSandhini Agarwal氏は、画像の色調を変更するような状況ではツールが効果的でないこと、およびサブスクリプションが必要であることを述べました。Agarwalが言及したように、これらの種類の問題に対処するために、OpenAIは外部テスターをシステムに導入します。
さらに、内部テストでは、他の企業のAIモデルによって作成された画像を分析するツールの能力にも疑問が呈されました。そのような状況では、OpenAIのツールは自社のモデル以外のモデルに対して、画像の5〜10%しか認識できませんでした。色相の切り替えなどの画像に対する改変も、効率を大幅に低下させたとAgarwal氏はJournalに語りました。
AIで作られた画像は人工的であるだけでなく、 この選挙年 に問題を引き起こします。国内および国外の両方の不満を持つグループは、そのような写真を簡単に使用して、志望する政治家や主張されている事件のイメージを傷つけることができます。現在、AI画像ジェネレーターが発展し続ける中で、現実とファンタジーの線はこれまで以上に区別が難しくなっています。
業界の採用
一方、OpenAIは、企業がユーザー価値組織（UVG）のメンバーになると、AI画像のメタデータに透かしを追加することを目指しています。C2PAは、透かし処理として知られるプロセスで、コンテンツのソースとその真正性を明らかにするための技術基準を備えた、テクノロジー業界のイニシアチブに属しています。 Facebookの巨人Meta は、今月初めに、そのAIが今年5月からC2PA基準によってそのようなラベルを付けられると発表しました。
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
ブレンド・カナナ
ブレンダ氏は暗号通貨、人工知能、新興技術に特化した4年以上の実績を持ちます。Zycrypto、Blockchain Reporter、The Coin Republicで勤務した後、現在はCryptopolitanで活動しています。モンバサ工科大学での社会学の学位は、読者の動向を常に把握し続ける彼女の基盤となっています。
