金融稳定委员会(FSB)发布面向银行及金融机构的 AI 风险管理最终指引,针对 Agentic AI 强调在高风险场景下必须加强人工监督并设定基于风险的触发条件。指引把监管关注点从模型输出扩展到执行过程,要求记录、暂停与审计智能体行为,但并非全球强制法规,各司法辖区可结合本地监管进一步落实。
金融稳定委员会(FSB)10月15日发布面向银行及其他金融机构的人工智能风险管理最终指引,要求金融机构在高风险使用场景中加强人工监督,并设置清晰、基于风险的触发条件,规定 AI 智能体何时必须请求人工批准。
路透社报道,FSB在最终指引中强化了对 Agentic AI 的相关建议。与传统生成式 AI 主要输出文本或分析结果不同,Agentic AI 可以在较少人工干预的情况下规划并执行任务,因此可能直接调用工具、访问数据或推动一连串操作。FSB认为,这种自主性使金融机构需要重新审视原有的模型治理和人工控制安排。
从征求意见稿到最终指引
这份最终文件源于FSB在2026年6月发布的《负责任采用人工智能的良好做法》征求意见报告。该报告提出12项非约束性的良好做法,覆盖机构层面的 AI 治理、AI 生命周期管理、网络与信息通信技术风险,以及第三方 AI 风险。
FSB在征求意见稿中强调,董事会和高级管理层应决定金融机构是否以及如何采用 AI,并确保相关部署符合机构的商业模式、风险偏好和战略。报告还提出,机构应根据具体使用场景的重大性和风险程度,安排相称的防护措施,而不是对所有 AI 应用采取同一种管理方式。
FSB随后公布了收到的意见,参与者包括银行、保险公司、交易所、支付公司、技术企业和行业组织。最终指引是在这些反馈以及金融机构对 Agentic AI 兴趣上升的背景下形成的。FSB主席致G20财长和央行行长的信也将“负责任采用人工智能的良好做法”列为提交给G20的报告之一。
高风险场景需要更密集的人工介入
路透社称,最终指引明确指出,在较高风险的使用场景中,更密集的人工监督至关重要。金融机构还应建立风险触发机制,明确何时智能体必须暂停行动并寻求人工批准。
这类触发条件可能涉及交易执行、客户权益、敏感数据、网络防御或其他关键业务,但FSB报道并未给出一套对所有司法辖区都统一适用的阈值。实际执行仍将取决于机构的业务性质、使用场景、风险等级,以及各成员辖区后续的监管安排。
FSB同时删除了征求意见稿中把 AI 描述为“合成人员”的表述。最终版本转而强调,AI 智能体并不会像人类那样进行推理,也可能以出乎预期的方式解释预先设定的目标。
这项措辞变化具有实际含义。如果机构把智能体当作一个可以按照人类常识工作的“数字员工”,就可能低估其对目标的机械化解释、对工具的异常调用,以及在复杂环境中持续执行错误策略的风险。新的表述更接近一种控制逻辑:机构应管理系统的权限、边界和行为后果,而不能把责任建立在智能体“理解了人的意图”这一假设上。
监管关注点从模型输出扩展到执行过程
FSB此前关于人工智能与金融稳定的研究已经指出,AI可能放大第三方依赖、市场相关性、网络风险、模型风险以及数据治理问题。2026年发布的另一份监测报告则认为,金融监管机构对 AI 使用情况的监测仍处于早期阶段,难点包括定义不统一、跨辖区数据缺乏可比性,以及难以判断外部 AI 服务对金融机构的重要程度。
对 Agentic AI 而言,监管问题因此不再只是“模型给出的答案是否准确”,还包括:智能体使用了哪些权限,调用了哪些工具,访问了哪些数据,是否留下完整的审计轨迹,以及出现异常时能否被迅速暂停和恢复。
近期金融监管机构的讨论也显示出类似方向。AIFlux此前报道,欧美银行监管机构正了解银行如何限制、监控、审计和关闭自主运行的智能体,关注点包括权限管理、供应商依赖和运营恢复能力。企业部署侧也开始出现针对智能体推理轨迹、工具调用和运行日志的异常检测机制,反映出治理对象正在从最终结果扩展到完整执行链条。
https://aifluxnews.com/%E6%AC%A7%E7%BE%8E%E9%93%80%E8%A1%8C%E7%9B%91%E7%AE%A1%E6%9C%BA%E6%9E%84%E5%8A%A0%E7%B4%A7%E5%AE%A1%E8%A7%86-agentic-ai%EF%BC%9A%E9%87%8D%E7%82%B9%E8%BD%AC%E5%90%91%E6%9D%83%E9%99%90%E3%80%81%E5%AE%A1/)
Google近期推出的 Agent Anomaly Detection 私有预览,也把审查范围放在 AI 代理的运行行为上,包括推理轨迹、工具调用和 OpenTelemetry traces,而不只是检查最终答案是否合规。这类做法并不能替代人工审批或最小权限设计,但说明企业开始尝试识别那些“最终任务完成、执行过程却已越界”的风险。
Google将Agent Anomaly Detection推入私有预览:开始审计AI代理的运行行为
这不是一套全球统一的强制法规
FSB是国际金融监管协调和标准制定机构,其文件通常用于推动成员和相关监管机构形成共同做法,但并不自动等同于各国已经完成国内法转化。FSB在征求意见报告中也明确表示,这些良好做法不是要建立一项具有处方性质的国际标准,也不是要求金融机构采用某一种特定技术。
因此,10月15日发布的最终指引更准确的定位是国际监管建议,而不是对所有银行立即生效的统一法规。各司法辖区仍可能通过监管问询、模型风险管理要求、运营韧性规则、网络安全指引或专门的信息征询文件,把其中一部分原则转化为更具体的监督要求。
对金融机构而言,短期内最现实的准备工作可能包括盘点 Agentic AI 的使用范围,识别涉及交易、客户数据和关键基础设施的高风险场景,建立人工批准触发条件,并确认系统能够记录、暂停和恢复智能体的行动。与此同时,机构还需要评估对外部模型、云平台和其他技术供应商的依赖,避免单一服务中断同时影响多家业务线。
FSB此前的金融稳定研究警告,人工智能的快速采用可能通过集中化的第三方服务、相似模型导致的市场行为相关性、网络攻击和模型治理缺陷,放大金融系统的脆弱性。
最终指引并没有要求金融机构停止使用 Agentic AI,也没有宣布禁止某一类模型。它提出的核心问题是:当智能体开始接触真实金融系统时,谁授权了它,谁能看见它做了什么,谁可以审计它,以及在它偏离目标之前,机构能否及时介入。
这些问题的答案,将决定 Agentic AI 在金融业是成为一种可控的自动化工具,还是转化为新的运营、网络和金融稳定风险来源。