OpenAI的图像检测工具展现出良好的效果，但仍面临挑战

人工智能生成的图像可能会欺骗你，让你误以为虚假内容是原创的。正因如此，ChatGPT 的开发者 OpenAI 开发了一款工具 ，可以判断图像是否由他们开发的图像生成算法 DALL-E 3 生成。

周二，OpenAI首次向用户开放了一款图像检测工具的试用机会，该工具包含基线模型和调优模型。其目的 是鼓励自主研究人员 评估该工具的安全性、实用性、应用方式以及可能导致人工智能生成内容的因素。 

工具的成功率和测试

OpenAI 已对该工具进行了内部测试，结果在某些方面令人鼓舞，但在另一些方面却令人非常失望。对 DALL-E 3 生成的图像进行评估时，该工具正确渲染了其中 98% 的图像。此外，在分析并非由 DALL-E 3 生成的图像时，系统仅有 0.5% 的概率会将其错误地归因于 DALL-E 3。. 

OpenAI并未发现图像存在细微显著差异的修改。内部团队通过对DALL-E 3生成的图像进行压缩、裁剪和饱和度调整来测试该工具，并观察到该工具仍然能够取得良好的效果。. 

挑战与局限性

不幸的是，该工具对经过大量处理的图片效果不佳。OpenAI 在这篇文章中的措辞并未明确说明他们在所描述的案例中做了多少修改，他们还表示“其他修改可能会降低性能”。 

在 采访 表示，该工具在诸如改变图像色调等情况下效果欠佳，而且需要订阅才能使用。正如阿加瓦尔所提到的，为了解决这类问题，OpenAI 将引入外部测试人员对系统进行测试。 

此外，内部测试还质疑了该工具分析其他公司人工智能模型生成的图像的能力。在这种情况下，OpenAI 的这款工具只能识别出 5% 到 10% 的图像，而其他模型生成的图像则无法识别。Agarwal 告诉《华尔街日报》，对这类图像进行诸如色调切换之类的修改也会显著降低其效率。.

人工智能生成的图像不仅是人为的，而且在今年的 选举中也带来了诸多问题。 国内外心怀不满的团体很容易利用这些照片抹黑有抱负的政治人物或其所倡导的事业。如今，随着人工智能图像生成器的不断发展，现实与虚构之间的界限比以往任何时候都更加难以区分。 

行业采用

另一方面，随着企业加入用户价值组织（UVG），OpenAI正寻求在人工智能图像元数据中添加水印。C2PA是科技行业一项倡议，旨在通过水印技术揭示内容的来源和真实性。Facebook 旗下的Meta公司 本月早些时候表示，从今年5月起，其人工智能将按照C2PA标准进行标记。