OpenAI 宣布支持欧盟《AI生成内容透明行为准则》，并基于其自 2024 年起在图像中部署的 C2PA 元数据、SynthID 水印和公开校验工具，继续推动内容溯源标准与互操作性。公司强调溯源需多层次手段与生态协作，并承诺在相关产品上遵守准则要求、加强验证与标准贡献。
背景与立场
- OpenAI 正式支持欧盟发布的《AI生成内容透明行为准则》，视其为实现 EU AI Act 的关键步骤。
- 这建立在 OpenAI 自 2024 年起在 DALL·E 3 上加入 C2PA 元数据及后续工作之上。
OpenAI 的溯源多层策略
- C2PA 内容凭证：为由 DALL·E 3 在 ChatGPT 与 API 中生成/编辑的图像添加元数据，记录来源与编辑信息。
- 多重信号：图像同时包含 C2PA 元数据与 SynthID 水印，元数据承载更丰富信息，水印提高在不同上下文中的保留率。
- 公开校验工具：通过 openai.com/verify 提供用户检测是否包含 OpenAI 相关溯源信号。
- 标准协作：2024 年加入 C2PA 指导委员会，参与跨产业互操作标准制定。
- 产品保障：溯源与政策、分类器、报告通道和执法流程共同作用，减少冒用与选举相关误导等滥用情形。
面临挑战与下一步
- 溯源方法仍处于早期：元数据易被移除或在转换过程中丢失，水印可能退化，标签的效果依赖用户接触场景。
- 需要生态系统层面的继续合作以提升可靠性、鲁棒性与互操作性。
- OpenAI 承诺在产品中持续强化透明度、改进验证工具并参与标准制定，与欧盟 AI 办公室与成员国合作推进落地。
积极拥抱并参与标准制定是务实之举，但溯源技术要在真实网络环境中长期有效仍需更多工程与监管配合。