美国参议院谈判人员正在讨论一项方案，拟对最先进人工智能模型施加“注意义务”，要求开发者在产品设计阶段减轻已知重大风险，并在政府认定不可接受风险时允许寻求联邦法院禁令阻止发布。方案范围、责任标准及联邦与州权力划分仍在协商，立法能否成行受国会日程和政治分歧影响。
美国参议院谈判人员正在讨论一项针对最先进人工智能模型的监管方案。根据路透社报道，方案可能要求相关开发者在产品设计阶段主动降低已知的重大风险，并建立所谓的“注意义务”（duty of care）。在政府认定某些模型存在不可接受风险时，方案还可能允许政府寻求联邦法院禁令，阻止模型发布。
这仍是一项谈判中的立法方案，并非已经提交、通过或签署生效的联邦法律。具体条文、适用模型范围以及政府能够采取的措施，都可能在后续协商中发生变化。
方案试图把 AI 安全责任从承诺变成法律义务
路透社援引两名参议院助理以及一名参与谈判的游说人士称，方案拟将责任更多地放在技术公司身上，要求它们在设计产品时以防范“灾难性风险”为目标。讨论中的风险包括恶意行为者利用人工智能协助开发核武器或生物武器，以及发动复杂网络攻击等情形。
方案可能覆盖拥有最先进能力的人工智能模型，潜在涉及 Alphabet 旗下 Google、Anthropic 和 OpenAI 等美国公司。但目前尚未公开一份最终文本，也没有明确的模型能力阈值或统一的评估标准。
报道所称的政府权限也仍在讨论。一个可能的安排是，商务部长在认为开发者没有充分缓解某项风险时，可以向联邦法院申请禁令；企业则可以在联邦法院对相关决定提出挑战。与需要政府事先批准模型发布的制度相比，这种设计可能保留企业自行决定是否发布模型的空间，除非政府能够获得法院支持。
据 路透社报道，方案还可能限制各州执行针对某些模型风险的相关法律，也就是在部分领域建立联邦层面的统一规则。这一安排可能成为谈判中的争议焦点，因为一些民主党议员担心，较弱的联邦标准会取代州一级更严格的保护措施。
两党谈判仍面临联邦与州权力之争
参与讨论的包括参议院多数党领袖约翰·图恩（John Thune）、参议院商务委员会主席特德·克鲁兹（Ted Cruz）以及民主党参议员艾米·克洛布彻（Amy Klobuchar）。商务委员会最高级别民主党议员玛丽亚·坎特韦尔（Maria Cantwell）也参与了相关讨论。
克鲁兹表示，他正与图恩和克洛布彻合作，处理涉及生物和核威胁的人工智能灾难性风险。克洛布彻则表示，她希望推动两党协议，包括要求开发者与政府专家合作，对模型进行验证和测试。
坎特韦尔对目前讨论中的联邦规则表达了不同担忧。她主张，真正有意义的立法应要求最强大的模型接受国家实验室科学家和专家的测试，以评估它们是否可能被用于复杂网络攻击，或协助发展生物和核武器。她同时警告，不能以建立联邦标准为名，削弱州一级已经存在的保护。
这种分歧并不只是技术问题，也涉及美国人工智能监管的制度结构。联邦规则可能减少企业面对不同州法律时的合规成本，但如果统一标准过低，州政府和消费者权益组织可能认为现有保护被削弱；如果规则过于严格，共和党议员和部分行业人士则担心其拖慢创新，使美国企业在全球竞争中处于不利位置。
美国此前已经出现围绕高风险人工智能的州级立法尝试。比如，加州正在推进涉及人工智能安全评估、独立审计及未成年人保护的多项制度。AIFlux此前对 美国人工智能政策从自愿承诺转向能力分级监管的讨论指出，企业和政策制定者目前都在讨论如何把模型能力、风险级别、事件报告和独立评估连接起来，但行业标准仍未完全统一。
“灾难性风险”如何定义将决定监管边界
目前方案最重要的未决问题之一，是如何定义需要触发更高监管义务的模型能力。
如果范围过窄，只有少数已经达到极高能力门槛的系统受到约束，监管可能难以及时覆盖快速发展的模型；如果范围过宽，大量通用模型和中小企业也可能承担与前沿实验室相近的测试、报告和法律责任。
另一个问题是风险评估的证据标准。开发者可能需要在发布前披露模型的新能力、采取的缓解措施以及测试结果，但政府如何独立验证这些材料，哪些风险足以支持申请法院禁令，都需要由法律文本和后续规则进一步说明。
这也是当前 AI 安全讨论逐渐从“模型会不会回答危险问题”，转向“模型能否在现实环境中持续行动”的原因。Anthropic近期发布的威胁情报报告称，部分恶意行为者开始使用能够调用工具、协调多个代理并持续执行任务的系统。AIFlux对该报告的 整理与分析显示，风险控制不仅涉及模型输出，还涉及代理能够访问哪些系统、使用哪些凭证、是否保留行动记录，以及在出现异常时能否及时停止。
不过，Anthropic报告中的部分归因和影响判断主要来自公司自身的威胁情报调查，尚不等同于法院裁决或独立机构的全面确认。这类证据如何在未来监管或诉讼中使用，也可能成为立法者需要处理的问题。
国会日程可能影响方案能否落地
即使参议院谈判人员达成协议，国会日程也可能限制立法推进速度。路透社称，众议院在11月3日中期选举前预计只有一周处于开会状态，参议院则预计有三周时间在华盛顿办公。
政治新闻网站 Politico 报道称，参议员目前仍未就要求 AI 实验室承担何种损害责任、商务部可以采取多大程度的行动，以及联邦规则是否应取代部分州法律等关键问题达成一致。该报道还提到，讨论中的版本可能要求企业在发现模型具备先进能力后，向商务部披露相关能力和风险缓解措施；在没有法院禁令的情况下，企业仍可能自行决定是否发布模型。
因此，现阶段可以确认的是，美国参议院正在尝试建立一套针对前沿人工智能风险的联邦监管框架，并考虑把开发者的安全责任写入法律。尚不能确认的是，方案是否会形成正式法案、最终适用于哪些模型、政府能否阻止发布，以及联邦规则会在多大范围内限制州级人工智能法律。
这场谈判的结果，将取决于国会能否在安全要求、企业创新空间和联邦与州监管权限之间找到足够多的共同点。