アリゾナ州の裁判所がAI生成の被害者動画を却下、ディープフェイク検出への需要を後押し

アリゾナ州の上級裁判所は、2021年の道路怒りによる射撃事件で過失致死罪に問われたガブリエル・ホルカシタスに対し、10年半の刑を言い渡した際、裁判官が被害者クリストファー・ペルキーのAI生成動画を考慮すべきではなかったと判断し、その判決を取り消した。

有罪判決は維持されたが、量刑のやり直しのため事件は差し戻される見込みである。Reutersおよび事件要約による。

パネルは、許しのメッセージが量刑を歪めたと指摘した。

3人の判事からなるパネルは、AI生成の動画が量刑に不当な影響を与えたと述べた。

記録上、AI動画が量刑計算にどの程度関与したかは正確には示されていないが、何らかの役割を果たしたのは疑いの余地がない。

— アリゾナ州控訴裁判所 D. スティーブン・ウィリアムズ判事（Reuters報道による）

裁判所は、動画がホルカシタスに偏見を抱かせ、量刑手続きを根本的に不公平にしたと結論付けた。Reutersによると、アリゾナ州司法長官とホルカシタスの公設弁護人はコメントを拒否したという。

ペルキー氏の家族がアバターを作成した経緯

この台本はペルキーの妹であるステイシー・ウェールズによって書かれたもので、彼女はその状況で兄が何を語ったであろうかを言葉にするのに苦労したという。NPRによると、家族は短い動画クリップ、葬儀の写真、そしてさまざまなAIツールを用いてアバターを作成した。

アバターは自らをAIの創作であると名乗り、ホルカシタスに対して次のように話しかけた：

別の人生であれば、私たちはおそらく友人になれたでしょう。

その後、裁判の裁判官は家族に動画を提供したことに感謝を表明しました。

裁判所には合成動画に関する共通のルールブックがありません

この決定は、人工的な証拠に関する課題に直面している裁判所のタイミングで下されました。コロラド大学ボルダー校が発表した報告書によると、米国の裁判の80%以上が部分的に映像証拠に基づいており、一方でAI生成またはAI強化された映像に対処するための共通ルールはまだ確立されていません。

研究者たちはまた、「ディープフェイク防御」と呼ばれる現象にも懸念を抱いています。これは、AI による主張が説得力を持つため、実際の動画映像さえも偽物と宣告されてしまうケースです。

この懸念は、CIFAR 合成証拠コーパスの創設理由の一つとなりました。2026 年 6 月に開始されたこのプロジェクトは、研究者が過去のデータセットでは証拠資料に生じうる微妙な改ざんを検出する技術を教えるのに不適切であると認識したことに起因しています。

プロベナンス（来歴）、透かし、そして追いつこうと競う検出市場

NISTは、プロベナンス追跡、透かし埋め込み、および合成コンテンツ検出を、AI 生成メディアを管理するための主要な手段として特定しています。欧州はさらに一歩進み、EU AI 法における第 50 条は、特定の合成コンテンツを機械可読とし、ディープフェイクが人工的に生成または操作されたものであることを開示することを義務付けています。

商業的な関連性はますます明確になっています。SNS Insiderによると、ディープフェイク検出市場は 2026 年に11.9 億ドルと評価され、2035 年までに121.4 億ドルに達すると予測されており、これは年平均成長率 29.5%に相当します。

アリゾナ州の判決一つだけでこの市場が生まれるわけではありません。しかし、裁判事件の 4 分の 3 以上が動画に依存している現状において、証拠の真正性を巡る紛争が増えることは、それを検証できるツールの実用的な必要性を高めることになります。

これにより、法廷でのディープフェイク問題は法的な頭痛の種から、 forensic 検証を提供する企業にとっての実質的なビジネスチャンスへと転換しました。中国も同様の方向へ進んでおり、Cryptopolitanは 9 月に AI ディープフェイクおよび音声クローンに関する新たな責任規定を報じています。