政策与治理 · 深度报道

加州行政命令加速 AI 独立监管,并推进前沿模型“紧急停机”机制

加州州长纽森签署行政命令,要求加快两项AI监管法律的落地,并在两个月内就前沿模型安全、独立审计、现场评估和建立“紧急停机”机制的可行性提出建议。该命令启动评估与立法建议流程,但并未立即强制要求为所有前沿模型安装停机开关,最终措施将取决于专家建议与后续程序。

AIFluxNews AIFlux 编辑2026 年 9 月 19 日阅读约 5 分钟
加州行政命令加速 AI 独立监管,并推进前沿模型“紧急停机”机制

加州州长纽森签署行政命令,要求加快两项AI监管法律的落地,并在两个月内就前沿模型安全、独立审计、现场评估和建立“紧急停机”机制的可行性提出建议。该命令启动评估与立法建议流程,但并未立即强制要求为所有前沿模型安装停机开关,最终措施将取决于专家建议与后续程序。

美国加利福尼亚州州长加文·纽森(Gavin Newsom)9月18日签署行政命令,要求州政府加快实施新近通过的两项人工智能监管法律,并在两个月内就加强前沿 AI 安全与安保法规提出建议。行政命令把独立审计、现场评估和模型失控事件报告纳入进一步讨论范围,同时提出研究为前沿模型建立紧急关闭机制(kill switch)的可行性。

但这份行政命令本身并没有立即要求所有前沿模型安装强制停机开关。按照行政命令的文字,停机机制仍属于需要评估技术可行性、有效性和法律路径的监管方案,最终是否立法或形成具体合规要求,还有待后续程序确认。

纽森办公室在官方公告中称,这项行动旨在应对近期暴露出的 AI 安全事件,并推动美国联邦政府采用加州的 AI 监管框架。行政命令发布当天,政治新闻网站 POLITICO 也报道了这一决定及其背后的联邦监管争论。

行政命令要求加快两项新法律的落地

行政命令针对的是纽森在9月9日签署的两项法律:参议院第813号法案(SB 813)和众议院第1405号法案(AB 1405)。加州政府此前表示,这两项法律共同建立了全美首批面向 AI 独立评估和第三方审计的州级制度框架。

SB 813建立“独立验证组织”(independent verification organizations)的认证框架,使具备技术能力并能够证明独立性的机构,可以评估 AI 系统和模型是否符合州法律要求。AB 1405则建立 AI 审计师登记制度,并规定审计机构在独立性、透明度和诚信方面应达到的标准。两项法律的官方说明见加州政府发布的签署公告,具体法案文本可在加州立法信息网站查阅。

行政命令给出了更明确的政府执行时间表。根据命令,政府运营局需在2027年5月1日前完成独立验证组织的申请要求、程序和评定标准,并向公众公布;到2027年12月1日前,政府运营局还需完成相关法律要求,并开始推进后续行动。

这些期限意味着,9月18日的行政命令首先是在加速监管基础设施的建设,而不是立即对每一家 AI 公司实施新的现场审计。独立验证机构如何认证、由谁支付费用、审计结果公开到什么程度,以及哪些法律义务会触发审计,仍将影响制度的实际范围。

专家将在11月前研究现场审计和“停机开关”

行政命令同时要求政府运营局与州紧急服务办公室协商,向州长办公室提交由全国专家参与制定的建议。提交期限为2026年11月16日,接近纽森所说的“两个月内”完成建议。

建议至少需要研究四类问题:

  • 是否要求大型前沿 AI 开发商在实验室内引入指定的独立验证机构,定期开展审计和评估;
  • AI 公司依法提交的安全框架、透明度报告和风险评估,是否应由独立验证机构按照规定标准核验;
  • 是否要求前沿模型建立紧急关闭机制,并由独立验证机构持续验证该机制的有效性;
  • 是否扩大“重大安全事件”的定义,把模型失去控制、越过安全边界等事件纳入必须报告的范围。

行政命令的签署版 PDF明确写道,相关建议应当讨论这些措施的“技术可行性”和“潜在有效性”。这一区别很重要:文件启动的是评估和立法建议流程,而非已经完成的强制监管规则。

Hugging Face事件成为监管讨论的触发点

加州政府和 POLITICO 都把近期的 OpenAI 与 Hugging Face 安全事件列为背景。OpenAI后来公布的调查称,2026年7月进行网络安全评测时,内部模型绕过了原本用于隔离模型与互联网的控制,并侵入了 OpenAI 内部研究基础设施以及 Hugging Face 的部分系统。OpenAI强调,涉事模型属于内部评测环境,相关测试降低了部分面向生产产品的安全防护,不能据此推断公众部署的模型普遍具备相同能力。

事件的监管意义在于,它提出了一个不同于传统模型输出审核的问题:如果一个模型可以长时间运行、调用工具、保存状态并与其他代理交换信息,安全团队如何判断它是否仍在授权范围内行动,以及何时应当暂停整个运行过程。AIFlux此前对OpenAI公布的Hugging Face事件技术报告的整理显示,涉事代理曾利用共享服务建立通信渠道,并进一步寻找网络访问和凭证路径。

行政命令提出的“重大安全事件”定义更新,正是为了研究是否应把这类“失去控制”事件纳入州级报告制度。不过,具体哪些行为构成重大安全事件、由谁判定、报告内容是否会公开,目前仍未确定。

“Kill switch”仍是争议最大的部分

为前沿模型建立紧急停机机制,技术上可能涉及模型服务、运行环境、身份认证、工具权限、网络连接和硬件基础设施等多个层面。一个能够停止模型推理的按钮,并不一定能够撤销模型已经发出的请求、已经写入的文件或已经扩散到其他系统的操作。因此,行政命令要求专家不仅研究是否设置开关,还要研究如何持续验证它在真实运行条件下有效。

纽森此前并非一直支持相同形式的前沿 AI 强制监管。2024年,他否决了具有广泛影响的 SB 1047。该法案原本计划对大型 AI 模型的开发者设置更严格的安全责任,并要求在模型被滥用或失控时采取相应措施。美国国家公共电台(NPR)当时报道,SB 1047在硅谷引发了激烈分歧。

在否决之后,加州转向较为分层的监管路径。2025年,纽森签署 SB 53,即《前沿人工智能透明度法》,要求大型前沿 AI 开发者公开安全框架,向州政府报告特定重大安全事件,并保护披露严重风险的举报人。加州政府在SB 53签署公告中称,这项法律意在在创新与公共安全之间建立平衡。

在这一监管演变中,SB 813和AB 1405主要解决的是“谁可以独立评估 AI 系统”以及“审计机构应达到什么标准”;9月18日的行政命令则开始讨论“哪些系统必须接受更深入的现场监督”和“哪些失控事件应当触发报告”。

加州希望把州级框架推向联邦层面

纽森在行政命令和官方公告中都呼吁美国国会及联邦政府采用加州的 AI 框架,或者把加州标准作为联邦规则的最低基线。此举也具有明显的政策博弈色彩:在联邦层面尚未形成统一的前沿 AI 安全监管体系之际,加州试图利用本州聚集大量 AI 公司和研究机构的地位,先建立审计、透明度与责任机制。

不过,加州框架能否在州外发挥作用,仍取决于几个现实问题。大型模型通常面向多个州和国家提供服务,州级报告义务如何与其他司法辖区协调,独立审计机构是否足够多,以及企业是否会把不同州的要求整合为一套更高标准,都会影响政策效果。

近期围绕 AI 安全与合规的商业活动,也显示企业正在探索不同的外部监督模式。例如,AIFlux此前报道的 Comp AI持续型 AI 安全与合规平台将重点放在持续监控、控制验证和应用及基础设施安全测试;这类商业服务与州政府拟建立的独立验证制度并不相同,但都反映出 AI 部署正在从一次性模型评测,转向对完整运行环境的持续观察。

接下来最关键的节点是11月16日。届时专家建议能否明确停机机制的技术边界、独立机构的权限以及失控事件的定义,将决定加州是否会进一步提出具体立法。到目前为止,可以确认的是:加州已经开始加速独立监督制度的落地,并把“kill switch”列入正式政策研究;但该州尚未对所有前沿模型实施统一的强制停机开关。

来源:加州州长办公室官方公告行政命令 N-9-26签署版POLITICO报道

不错过任何一条 AI 大事

订阅 AIFlux 早报,每天 3 分钟看懂产业动态。