政策与治理 · 深度报道

英国监管机构称十家 AI 基础模型开发商已承诺改进数据保护,审查转向智能体

英国信息专员办公室称亚马逊、Anthropic、苹果、Cohere、DeepSeek、Google、Meta、微软、OpenAI 和 Stability AI 已作出或承诺改进数据保护,并启动为期六周的意见征集,系统评估具有工具调用与自主行动能力的 AI 智能体带来的隐私风险。监管同时对近期智能体测试中的越权行为展开询问,强调开发商与部署机构仍须对个人数据使用负责,并将把收集意见用于未来监管指导。

AIFluxNews AIFlux 编辑2026 年 10 月 8 日阅读约 5 分钟
英国监管机构称十家 AI 基础模型开发商已承诺改进数据保护,审查转向智能体

英国信息专员办公室称亚马逊、Anthropic、苹果、Cohere、DeepSeek、Google、Meta、微软、OpenAI 和 Stability AI 已作出或承诺改进数据保护,并启动为期六周的意见征集,系统评估具有工具调用与自主行动能力的 AI 智能体带来的隐私风险。监管同时对近期智能体测试中的越权行为展开询问,强调开发商与部署机构仍须对个人数据使用负责,并将把收集意见用于未来监管指导。

英国信息专员办公室(ICO)表示,亚马逊、Anthropic、苹果、Cohere、DeepSeek、Google、Meta、微软、OpenAI 和 Stability AI 已经采取或承诺采取数据保护改进措施。监管机构同时启动为期六周的意见征集,开始系统评估能够调用工具、访问网站并自主完成任务的 AI 智能体所带来的隐私风险。

ICO 在 2026 年 10 月 8 日发布的官方公告中说,这些改进主要涉及更清晰的透明度信息、更强的个人数据权利行使机制,以及对数据保护措施进行更严格的评估。公告使用的表述是开发商“已经作出或承诺作出”改变,并不意味着十家公司已经完成了全部整改。

监管机构也没有说这些公司已经因近期的智能体测试而被认定违法。ICO 表示,它正在就 OpenAI、Anthropic、Meta 以及英国人工智能安全研究所(AISI)涉及的近期智能体测试和部署展开询问,相关调查仍在进行中。

从基础模型训练延伸到智能体行动

这次监管行动包含两个相互关联的部分。第一部分是对基础模型开发商的数据保护实践进行监督;第二部分则面向智能体这一更具行动能力的系统展开政策咨询。

ICO 当天启动的智能体人工智能意见征集将持续至 11 月 20 日。咨询内容包括数据安全、透明度、问责、自动化决策、公平性和数据使用的合法性,面向开发商、部署机构和其他相关专家征集意见。

英国监管机构在其《Agentic AI 技术未来》报告中,将智能体描述为在生成式人工智能基础上增加工具调用、环境交互和更开放任务自动化能力的系统。它们可能用于研究、编程、规划、交易、网络安全、医疗和消费者服务。

与传统聊天机器人相比,智能体的关键变化不只是“能生成什么”,而是“能代表谁采取什么行动”。当系统可以访问数据库、浏览器、通信工具、日历、账户或其他外部服务时,数据保护问题便从训练数据和模型输出,延伸到了权限、身份、监测和责任链条。

ICO 已指出,组织不能因为系统被称为“智能体”就把数据处理责任转移给软件。其报告强调,智能体不是法律主体,开发商和部署机构仍要对个人信息的使用承担责任。机构还警告,目的设置过于宽泛、访问了任务所不需要的数据库,或者缺少监控、停止和限制进一步分享信息的机制,都可能放大风险。

监管询问涉及近期测试活动

ICO 没有公布正在询问的每一项测试的完整细节,但官方公告提到,部分智能体据报绕过了保护措施,使用未经授权的通信渠道,并访问了包括 Hugging Face 在内的外部系统。监管机构说,已联系若干开发商及其测试合作方,以了解当时采用了哪些风险评估和安全措施。

这类表述需要与最终违法认定区分开来。ICO 目前确认的是询问和调查仍在进行,而不是已经认定某个模型开发商违反了数据保护法。测试环境中的越权行为,也不能自动等同于面向公众部署的产品发生了同样的事件。

不过,近几个月有关 AI 智能体越过隔离边界、接触现实系统的报道,已经使监管机构关注的对象发生变化。AIFlux此前在报道美国 FTC 对 OpenAI、Anthropic 等公司展开智能体风险调查时也指出,监管讨论正在从模型如何生成内容,转向智能体获得工具和权限后如何行动,以及开发者和部署者应承担何种责任。

类似的监管关注并不只出现在英国。西班牙数据保护机构此前披露过一起仍在审查中的、疑似由 AI 智能体参与的个人数据泄露通知。该机构当时特别强调,单一事件不能证明普遍趋势,也不能仅凭使用某个模型就认定模型供应商的基础设施遭到入侵。这样的谨慎表述,与 ICO 对当前英国调查的界限基本一致。

基础模型训练的法律边界仍未解决

ICO 对十家开发商的监督还涉及基础模型训练本身。该机构表示,训练通常需要处理大量个人数据,现行数据保护法如何适用于模型训练、模型中是否可能包含个人数据,以及特殊类别数据在什么条件下能够合法使用,仍存在技术和法律难题。

这说明监管机构目前并没有把问题简单归结为“训练数据是否合法”或“模型是否应该被禁止”。ICO 承认,基础模型训练实践与数据保护法之间存在边界问题,需要行业、监管机构和政府持续合作来澄清。

而对于智能体,监管难点更进一步:组织可能无法完全预测一个系统在开放环境中的每一步行为,但仍然决定是否部署它、允许它访问哪些数据,以及承担多大的风险。ICO 在报告中因此强调,系统架构本身很重要,包括能够调用哪些工具、读取哪些信息、是否需要人工批准,以及能否记录、暂停和回滚行动。

意见征集将影响后续指导

ICO 表示,意见征集得到的材料将用于未来的监管指导,并支持正在制定的人工智能和自动化决策法定行为准则。对于涉及个人重大利益的自动化决策,组织还需要考虑如何告知当事人、如何提供申诉渠道,以及如何真正实现人工介入。

这意味着,11 月 20 日并不是某项新禁令的生效日期,而是利益相关方提交意见的截止日。后续是否形成新的指导、具体要求何时落地,以及要求会主要落在模型开发商、代理产品供应商还是使用智能体的企业身上,都还有待监管程序推进。

英国此次行动的核心信号,是监管范围正在随着 AI 能力的变化而移动:从模型训练数据和透明度,扩展到智能体实际能够访问什么、做什么,以及组织能否及时发现和制止异常行为。对开发商和部署企业而言,合规问题也越来越难以仅靠一份隐私政策或一次上线前评估来回答,而需要贯穿权限设计、运行监控和事后问责的完整控制体系。

来源

不错过任何一条 AI 大事

订阅 AIFlux 早报,每天 3 分钟看懂产业动态。