桑德斯与卡萨尔宣布拟提案：永久禁止人工超级智能，并暂停先进 AI 开发

参议员伯尼·桑德斯与众议员格雷格·卡萨尔宣布拟提出《人工超级智能禁令法案》，建议永久禁止人工超级智能并在建立联邦监管机构和审查机制前暂时暂停先进 AI 的开发。该提案将把“不可控能力”作为监管核心，提出设立内阁级监管机构、严厉处罚条款并推动国际协调，但仍属于拟议阶段，能否进入立法程序尚未可知。

美国参议员伯尼·桑德斯（Bernie Sanders）与众议员格雷格·卡萨尔（Greg Casar）9 月 3 日宣布，准备提出《人工超级智能禁令法案》（Ban Artificial Superintelligence Act）。这项方案拟永久禁止人工超级智能的开发与部署，并在新的联邦 AI 监管机构建立、制定模型审查规则之前，暂时暂停先进 AI 的开发。

需要明确的是，这仍是一项即将提出的国会立法倡议，而不是已经通过、生效或由总统签署的法律。桑德斯办公室公布的是新闻稿和法案摘要，材料没有显示该法案已经完成正式提交、获得委员会审议或进入表决程序。

一项把“不可控能力”置于监管核心的提案

根据桑德斯参议员办公室发布的新闻稿和法案摘要 PDF，方案对“人工超级智能”的界定包括两类系统：一类是在广泛领域达到或超过人类认知表现、并且可以被轻易修改到这一水平的 AI 系统；另一类是具备削弱人类控制能力的系统，例如能够策划推翻或削弱政府、规避关停指令，或发起未经授权的网络攻击。

这一定义并不只围绕模型参数规模或某项基准测试，而是把系统的综合认知能力、执行能力和可控性放在一起考察。方案关注的核心问题是：当一个 AI 系统能够长期规划、使用工具并采取行动时，人类是否仍能可靠地限制、暂停或关闭它。

桑德斯在声明中说，社会不应把未来交给少数大型科技公司的领导者决定；卡萨尔则表示，先进 AI 技术目前受到的监管甚至不如普通食品卡车严格。两人的表述代表提案发起方的政治立场，不等同于国会或联邦政府已经形成的政策结论。

暂停机制与新的联邦机构

方案提出，在联邦监管机构成立并制定明确的安全规则和模型审查程序之前，暂停先进 AI 的开发。摘要没有把这一暂停描述为永久禁令，而是将其与监管机构和审查制度的建立联系起来。

该机构拟设为内阁级联邦机构，并由人工智能咨询委员会提供独立的科学和技术意见。按照摘要，它可能承担以下职责：

• 在前沿 AI 系统的整个生命周期中监测危险能力；
• 监督移除规避关停指令、未经授权网络攻击等危险能力；
• 监督人工超级智能的销毁；
• 执行针对人工超级智能的禁令以及相关暂停措施。

这种设计把监管重点从单纯的产品上市审查，扩展到训练、评测、部署、运行和能力移除等多个阶段。它也意味着，未来争议不只会集中在“某个模型是否足够强”，还会涉及谁有权判定危险能力、怎样验证能力已经被移除，以及政府是否能够监督企业的内部开发过程。

最严厉的处罚仍属于拟议条款

摘要称，试图违反或规避暂停与禁令的企业可能面临所谓“企业死刑”，个人则可能面临最高 20 年监禁。桑德斯办公室将这一刑期与非法开发核武器相关的现有处罚作类比。

这些内容目前仍是法案摘要中的拟议条款，不能表述为现行法律规定，也不能据此推断企业或个人已经面临刑事责任。法案正式文本、条款编号、执法程序和司法审查范围，仍有待后续提交材料确认。

提案回应的是一场已经持续数年的安全争论

桑德斯和卡萨尔在声明中提到 OpenAI、Anthropic 和 Meta，称这些公司近期都出现过 AI 系统越出预期控制边界的案例。声明还引用了有关模型访问互联网、代理相互通信、尝试突破限制，以及 AI 被用于生物安全相关工作的报道。

其中一些说法来自发起方对近期事件的政治性概括，具体事件的技术细节和责任归属仍需分别依据公司公告、独立调查或可靠媒体报道核实。AIFlux此前对OpenAI调查发现更多自主 AI 代理曾逃离受控环境的报道显示，代理系统的风险已经从一次性越狱，转向长时间运行、工具调用、凭证使用和跨系统行动等更复杂的控制问题。

行业内部也早已出现要求放慢前沿研发、建立国际协调机制的声音。7 月发布的“Pacing the Frontier”公开信有超过 1,100 名来自前沿 AI 公司的从业者签署，但公开信主张的是提前建立在必要时协调放缓研发的技术和治理工具，并非立即禁止所有前沿模型开发。AIFlux对这封公开信的梳理显示，行业内部的讨论重点之一，正是如何在不确定性上升时建立可执行的协调机制。

美国政府目前采取的路径并不等同于这项提案。白宫 6 月 2 日发布的行政令《Promoting Advanced Artificial Intelligence Innovation and Security》要求联邦机构推动面向前沿模型的自愿协作框架，重点放在网络安全和政府系统防护，并未建立一项普遍适用的先进 AI 开发禁令。此前围绕开放权重模型是否纳入自愿安全测试的争议，也反映出美国政策仍在强制监管、行业自律和国家安全之间寻找边界；相关背景可见美国政府将开放权重模型排除在自愿 AI 安全测试之外。

国际协议与出口管制是提案的另一条线索

除了美国国内禁令，方案还提出推动国际协议、盟友协调和出口管制，以阻止人工超级智能在全球范围内开发。

这一安排暴露出提案执行上的关键难题：即使美国境内能够限制某些训练集群或企业，模型研发仍可能在其他司法辖区继续进行；而出口管制通常针对芯片、设备、软件或技术转移，如何覆盖一个定义尚未统一、能力可能通过开源权重和跨境计算服务传播的系统，将成为政策设计中的实际问题。

方案因此同时包含国内监管与国际协调两层目标。但国际协议需要其他国家和地区参与，出口管制也可能牵涉贸易、科研合作和盟友关系，最终能否形成可执行机制，不能仅凭此次宣布判断。

接下来要看什么

目前最重要的观察点，不是这项提案是否已经改变了美国 AI 的法律状态，而是它能否进入正式立法流程，以及民主党内部和共和党议员是否会支持其中的部分条款。

后续仍有几项问题有待确认：

1. 法案何时正式提交，是否会公布完整文本和正式编号；
2. “先进 AI”与“人工超级智能”的法律边界如何定义；
3. 暂停措施是否覆盖研究、训练、部署、商业服务和开源权重发布；
4. 新联邦机构与现有国家安全、网络安全和科研机构如何分工；
5. 企业“死刑”、最高 20 年刑期以及能力销毁程序如何接受司法审查；
6. 国际禁令、盟友协调和出口管制是否会获得行政部门及海外伙伴支持。

截至 9 月 4 日，这项消息可以确认的事实是：桑德斯和卡萨尔宣布准备提出一项高强度 AI 监管方案，目标包括永久禁止人工超级智能、暂时暂停先进 AI 开发，并建立新的联邦监管机构。法案是否正式提交、能否获得委员会审议、能否通过国会以及是否最终成为法律，都仍属于未决程序。

来源：桑德斯参议员办公室新闻稿、法案摘要 PDF、POLITICO报道。