OpenAI的图像检测工具显示出有希望的结果，但面临挑战

AI生成的图像可能会欺骗你，让你误以为虚假内容是原创的。这就是为什么ChatGPT的开发者OpenAI创建了一个工具，可以确定图像是否源自DALL-E 3，这是他们开发的图像生成算法。

周二，OpenAI首次让用户有机会试用由基线模型和调整模型组成的图像检测工具。目标是让自我执行的研究人员审查其担忧、有用性、应用方式以及可能导致AI生成内容的因素。

工具的成功率和测试

OpenAI已在内部测试了该工具，在某些方面令人鼓舞，而在另一方面则非常令人失望。评估由DALL-E 3生成的图像，正确率为98%。此外，在分析非DALL-E 3制作的图片时，系统错误地将其归因于DALL-E 3的情况仅占0.5%。 

OpenAI并未发现具有轻微显著差异的图像修改。内部团队通过压缩、裁剪和引入DALL-E 3创建的图像的饱和度变化来测试该工具，并观察到该工具仍能取得良好的成功率。 

挑战和局限性

不幸的是，该工具对于经过广泛处理的图片效果不佳。OpenAI的这篇文章措辞不清楚他们在描述的情况下进行了多少次修改，他们说“其他修改会降低性能”。 

在接受《华尔街日报》采访时，研究人员Sandhini Agarwal表示，该工具在改变图像色调等情况下效果较差，并且需要订阅。正如Agarwal所述，为了应对这些问题，OpenAI将引入外部测试人员到系统中。

此外，内部测试也质疑了该工具分析由其他公司AI模型制作的图像的能力。在这种情况下，OpenAI的工具仅能识别5%或10%的非其自身模型的图像。Agarwal告诉《华尔街日报》，此类图像中的修改，如色调切换，也显著降低了效率。

AI制作的图像不仅是人工的，而且在这个选举年带来了问题。国内和国外的不满团体都可以轻易利用这些照片来玷污有抱负的政客或所倡导的案件。如今，随着AI图像生成器的不断发展，现实与幻想之间的界限比以往任何时候都更难分辨。

行业采用

另一方面，随着公司成为用户价值组织（UVG）的成员，OpenAI正寻求在AI图像元数据中添加水印。C2PA属于一个技术行业倡议，它带有技术标准，以在被称为水印的过程中揭示内容的来源和真实性。Facebook巨头Meta本月早些时候表示，其AI将从今年5月起按照C2PA标准进行标记。