OpenAI宣布将在欧盟为符合条件的ChatGPT和Codex输出逐步加入隐形文本水印,并向经批准的研究人员和专业机构开放检测器申请,但检测器暂不向公众开放。公司强调textGrain在长文本中检测效果较好但存在误报漏报和编辑削弱等局限,水印是概率性来源信号,无法作为最终取证工具。
OpenAI表示,将在欧盟为符合条件的 ChatGPT 和 Codex 文本输出逐步加入隐形水印,同时允许全球 API 客户为部分模型自愿开启文本水印功能。公司还将开放文本水印检测器的申请,但初期只向经过批准的研究人员和专业机构提供访问权限。
这一安排是 OpenAI 对欧盟《人工智能法案》(EU AI Act)文本溯源要求的回应。公司在官方说明中承认,文本水印和检测仍处于早期阶段,存在误报、漏报以及经过编辑后信号减弱等局限,因此没有把检测器直接做成面向公众的工具。
欧盟规则把“内容来自哪里”变成产品义务
欧盟人工智能法案第50条要求,生成式人工智能系统产生的音频、图像、视频和文本,应在技术可行的情况下带有机器可读、可检测的人工生成或篡改标记。欧盟委员会表示,相关透明度义务自2026年8月2日起适用;透明度内容实践准则虽然属于自愿遵循的工具,但第50条本身是具有法律约束力的要求。
欧盟委员会在规则开始执行的公告中说,聊天机器人需要让用户知道自己面对的是人工智能,深度伪造内容需要被标注,人工生成或修改的内容则应携带机器可读标记,以便检测。
这套制度并没有规定所有公司必须使用同一种水印。对于内容提供者,重点是让输出可以被识别;对于发布某些人工生成内容的部署者,尤其是涉及公共利益事项的文本,规则还涉及面向读者的披露。欧盟委员会提供的准则和代码,试图为企业提供一套可操作的合规路径,而不是把某一种商业技术写成唯一答案。
textGrain如何工作,检测能力有多可靠
OpenAI称,其文本水印技术名为 textGrain,通过调整模型的选词概率,在文本中加入不可见的统计信号。检测器随后判断一段文字是否包含 OpenAI 水印。公司表示,未来还计划将这项技术开放源代码。
但水印并不是一张能够证明作者身份的数字标签。OpenAI公布的测试显示,在目标误报率为1%的条件下,对于心理学类内容,检测器在约200个词元的文本中识别出水印的比例约为80%,在约400个词元的文本中约为95%。数学类内容的检测率则明显更低,因为这类文本的选词自由度较小。
改写也会削弱信号。在一项针对400个词元文本的测试中,用同义词替换10%的词语后,检测率从约92%降至66%;替换25%的词语后,检测率进一步降至17%。这意味着,水印在较长、较开放的文本中可能更有用,但不能被当作对所有文本都有效的取证工具。
OpenAI还称,在其用于评估最新前沿模型 Astra 的多个基准测试中,加入水印与不加水印之间没有出现有意义的性能差异。不过,这些结果是公司自己的评估,尚不等同于独立机构对不同语言、文体和编辑流程的全面复现。
先限定检测器访问,是谨慎也是争议
OpenAI列出了检测结果不能说明的几件事:水印不能衡量人类在文本中的贡献,不能确定版权归属或法律责任,不能识别具体用户,也不能证明内容真实、准确或没有误导性。同样,检测不到水印,也不能证明文本由人类独立写成,因为文本可能过短、经过翻译或改写,也可能来自尚不支持该技术的模型。
正是这些限制,使 OpenAI 选择先向研究人员和专业机构开放检测器。按照公司的说法,检测工具只会报告是否发现 OpenAI 水印,不会披露用户、提示词或对话内容。申请将按个案审查,目标是让外部机构帮助评估技术可靠性及其适当使用方式。
这种做法也暴露出文本溯源与图像、音频溯源之间的差异。图像和音频通常可以附带文件元数据,或在媒体信号中嵌入较稳定的水印;纯文本却会在复制、粘贴、翻译、编辑和重新排版过程中不断变化。文本本身没有一个类似图片文件容器的固定外壳,任何来源机制都必须直接面对语言的可修改性。
从图像和音频到文本,OpenAI采取分层路线
OpenAI表示,公司的内容溯源策略并不依赖单一技术。对于支持的图像输出,公司使用 C2PA Content Credentials 记录来源和编辑历史,同时在支持的图像与音频中使用 SynthID 隐形水印,并通过 openai.com/verify 和 Content Provenance API提供验证工具。
这种“元数据加隐形信号”的分层思路,也出现在其他人工智能应用场景中。比如,AIFlux此前报道的Google DeepMind 为 AI 设计蛋白质加入可验证隐形水印也显示,行业正尝试把来源标记从传统媒体扩展到更特殊的数字对象。但水印能够提供的首先是来源线索,而不是对内容安全、真实性或责任归属的最终判断。
OpenAI在今年6月关于欧洲可信人工智能生态的说明中,已经表示将继续把内容溯源扩展到更多模态。此次文本方案意味着,这一承诺开始进入产品部署阶段,但部署范围仍被严格区分:欧盟 ChatGPT 和 Codex 输出将逐步加入水印,全球 API 客户则是自愿选择,且 API 默认不会开启。
文本水印能否成为可依赖的证明
OpenAI的方案并没有宣称可以解决“这段文字究竟是谁写的”这一更大的问题。它更接近一种概率性的来源信号:在特定条件下,可以帮助平台、研究机构或企业判断一段文本是否可能经过 OpenAI 系统生成或处理;但它无法告诉使用者人类参与了多少,也无法替代事实核查、版权判断或内容责任认定。
接下来需要观察的,是水印在中文等不同语言中的表现、翻译和二次编辑后的可检测性,以及检测器未来是否会扩大到出版机构、学校、平台和普通用户。欧盟规则正在推动基础设施建设,但技术本身仍未达到“检测结果可以单独定案”的程度。
对 OpenAI 而言,区域化推出水印既是合规安排,也是现实测试。公司可以在欧盟这个监管边界更明确的市场观察误报、漏报和用户反馈,再决定是否扩大到其他地区。对使用 ChatGPT、Codex 或 OpenAI API 的机构来说,最重要的变化则是:文本溯源不再只是研究议题,而正在成为产品配置、内容披露和治理流程的一部分。
来源:
- OpenAI:Our approach to EU text provenance rules
- 欧盟委员会:Code of Practice on Transparency of AI-generated Content
- 欧盟委员会:Commission starts enforcing AI Act rules and new transparency requirements
- OpenAI:Supporting Europe’s work in ensuring a trustworthy AI ecosystem
- OpenAI:EU AI Act resources and customer guidance