Anthropic向美国国会议员推介一份人工智能安全与安保法案草案，拟设定只有在构成“可预见且迫在眉睫”的灾难性风险（如超过10亿美元损失或50人以上死亡/重伤）时政府才能阻止前沿模型发布或使用，同时要求独立评估、定期安全报告与更高透明度。草案还设计通过登记评估机构与法院审查程序限制行政单方面干预，但关于评估访问权限、报告公开权和门槛高低等争议仍在业界与政策界引发讨论。
据路透社援引美国政治新闻网站Politico报道，Anthropic代表近日向美国国会议员推介一份人工智能安全与安保法案草案。草案试图为政府何时可以阻止前沿AI模型发布或使用设定明确门槛，同时要求模型开发商提高安全测试和风险披露的透明度。
这份草案尚未成为美国正式法律，也没有证据表明它已经正式提交国会。它更像是Anthropic试图把自身政策主张转化为联邦立法方案的一次游说行动。
Politico的原始报道称，草案由三名了解相关讨论的人士提供信息。Anthropic发言人确认，草案反映了公司今年公布的Advanced AI Framework，也就是公司此前向联邦和州层面政策制定者提出的监管框架。
政府只有在特定重大风险下才能阻止模型
根据Politico报道，草案拟规定，只有当一个模型构成“可预见且迫在眉睫”的风险，并可能造成超过10亿美元损失，或导致50人以上死亡或重伤时，政府才可以阻止其发布或使用。
相关风险还必须属于草案列明的范围，包括生物武器的制造或扩散、模型规避开发者控制，以及网络攻击。换言之，草案并没有赋予政府一项可以针对广泛安全担忧随时叫停模型的权力，而是试图把干预限定在少数被认为可能产生灾难性后果的情形。
路透社在10月18日的报道中进一步指出，草案不会允许商务部单方面叫停模型。若注册的独立评估机构认定某个前沿模型存在“迫在眉睫且具体的风险”，评估机构需要在完成评估后的72小时内向商务部报告。商务部随后可以向华盛顿特区联邦地区法院申请暂停模型，最终是否停止发布或使用，则由法官裁定。
草案同时拟禁止美国其他政府部门、机构或官员单独命令开发者停止模型的开发、部署或内部使用。这样的设计，意在避免多个联邦机构分别采取行动，但也意味着一旦出现紧急风险，政府响应可能需要经过一套较为集中的司法程序。
独立评估机构将成为监管框架的一部分
草案拟要求由商务部登记独立评估机构，定期评估前沿模型及其开发机构。开发商可以向评估机构支付费用，但付款不得取决于评估结果，以降低“花钱买通过”的风险。
这套安排的关键争议在于，评估机构究竟能获得多大的访问权限，以及它们能否在不受开发商控制的情况下公布重要发现。AI实验室往往掌握模型权重、训练数据、内部测试记录和部署信息；这些资料可能同时涉及商业机密与公共安全。若评估机构无法接触足够证据，评估结果可能不完整；若实验室能够大幅修改报告，外界也难以判断风险披露是否充分。
AIFlux此前报道的Anthropic与OpenAI就第三方评估报告发布权展开谈判显示，前沿AI行业目前仍在讨论第三方评估的访问权限、报告删节和发布权，统一的行业标准尚未形成。
Anthropic的框架覆盖四类灾难性风险
Anthropic在2026年6月发布的Advanced AI Framework中提出，最强大的前沿模型应接受更严格的测试、独立评估和持续披露。
公司在框架网页中将重点风险分为四类：生物武器、攻击性网络行动、AI系统失去控制，以及自动化研发。最后一类风险指AI系统可能加速AI自身的研究与开发，从而进一步放大生物、网络或失控风险。
按照Anthropic框架提出的范围，相关义务主要针对训练计算量超过10²⁵ FLOPs的模型，并覆盖年收入超过5亿美元或每年在AI研发上投入超过10亿美元的开发商。开发商应公布安全框架、系统卡和至少每六个月一次的风险报告，还应报告重大安全事件并接受独立评估。
Anthropic同时主张，监管不应只依赖企业自愿披露。公司的政策页面写道，前沿开发商应测试模型、公开结果摘要、定期参与独立评估，并接受政府部门的监督。公司也提出，联邦法律不应自动取代州级AI法规，除非联邦制度至少达到其所主张的安全标准；即使发生联邦优先适用，也应限于灾难性风险测试、评估机构许可和相关报告等具体职能。
法案草案也限制政府权力
Anthropic的方案具有双重性质。一方面，它要求开发商承担更多义务，包括测试、报告、安保和第三方评估；另一方面，它也试图限制政府在什么情况下可以暂停模型，并要求政府通过法院寻求最终干预。
这一设计可能得到部分AI公司的支持，因为它为监管提供了可预期的边界，降低了行政部门依据宽泛安全理由干预模型发布的可能性。但批评者可能会认为，10亿美元损失或50人死亡、重伤的门槛过高，可能使政府难以及时应对尚未造成大规模损害、但已经显示出重大风险的模型。
另一个问题是，风险是否能够在模型发布前被可靠预测。生物武器、网络攻击和模型失控的实际后果，可能取决于使用者、部署环境和其他系统的组合。评估机构需要在证据不完整的情况下判断风险是否已经达到“迫在眉睫”，法院则需要在技术事实和潜在后果之间作出判断。
美国监管机构近期也在从另一条路径关注AI风险。AIFlux此前报道，美国联邦贸易委员会向OpenAI与Anthropic发出民事调查要求收集与安全事故、安全防护、隐私政策和营销表述有关的资料。那项行动属于非公开取证，并不等同于已经认定企业违法，但说明美国政府对AI安全问题的关注正在从原则讨论转向具体的监管程序。
草案距离正式立法仍有很长距离
目前能够确认的是，Anthropic正在向国会议员推介一份法案草案，且公司认为其中的政策主张与自身Advanced AI Framework一致。草案提出了政府干预门槛、独立评估、72小时报告义务和联邦法院审查等机制。
尚不能确认的是，是否已有议员正式接受并提交该草案，国会是否会举行相关听证，或其他AI开发商、监管机构和民间组织是否支持其中的具体门槛。美国国会最终可能修改草案，也可能选择完全不同的监管路径。
这场讨论的核心，不只是政府能否叫停一个危险模型，也包括谁来定义危险、谁能获得模型的内部证据、谁有权公开评估结果，以及在风险尚未造成现实损害时应当采取多早的干预。随着前沿模型越来越多地进入网络安全、生物研究和自动化研发领域，这些制度安排将逐渐从企业政策主张，转化为更广泛的公共治理争论。