政策与治理

千名前沿 AI 从业者联名呼吁政府为“放缓研发”预作准备

超过1,100名前沿AI从业者联名致信,要求政府支持建立国际技术与治理工具,以便在必要时能够“有意放缓”前沿模型研发节奏。签署者来自OpenAI、Anthropic、Google DeepMind等多家机构,呼吁把协调机制和可执行工具在研发早期建好,以应对快速自动化带来的不可控风险。

千名前沿 AI 从业者联名呼吁政府为“放缓研发”预作准备

超过1,100名前沿AI从业者联名致信,要求政府支持建立国际技术与治理工具,以便在必要时能够“有意放缓”前沿模型研发节奏。签署者来自OpenAI、Anthropic、Google DeepMind等多家机构,呼吁把协调机制和可执行工具在研发早期建好,以应对快速自动化带来的不可控风险。

7 月 28 日,名为 Pacing the Frontier 的公开信在网上发布,页面显示来自前沿 AI 公司的 1,178 名员工已经签署。路透社当天早些时候报道时则写作“超过 1,100 人” (Reuters)。这封信并没有要求立即暂停前沿模型研发,而是呼吁美国政府支持一项国际努力,提前建立技术与治理工具,以便在必要时能够“有意放缓”自动化 AI 研发的节奏。

签署者横跨多家头部实验室

这封信的签署者来自 OpenAI、Anthropic、Google DeepMind、Meta、Thinking Machines、Inherent 等多家前沿 AI 机构。网站列出的部分知名签名者包括 OpenAI 首席科学家 Jakub Pachocki、首席研究官 Mark Chen,Anthropic 联合创始人 Jared Kaplan、CEO Dario Amodei 和研究负责人 Chris Olah,Meta 首席科学家 Shengjia Zhao 和研究副总裁 Dawn Song,以及 Google DeepMind 的 Anca Dragan、Jasjeet Sekhon 和 Laura Weidinger。发起页面同时说明,所有评论均以个人身份署名,并不代表任职公司的官方立场。

这种跨公司、跨实验室的联合并不常见,也正是这封信最受关注的地方。它显示,围绕前沿 AI 的风险认知,已经不再只存在于外部监管者和倡导者之间,行业内部也出现了更公开的分歧。

他们想要的不是立刻刹停,而是先把工具建出来

信件正文写道,AI 可能创造“显著更好的未来”,但这种结果并非注定;如果能力研发持续自动化,进展速度可能快到“超出我们理解和控制系统的能力”。因此,签署者提出的不是立即暂停训练或直接设限,而是要求政府支持“技术和治理工具”,让世界在需要时能够协调节奏,而不是被各家公司和各国之间的竞争压力推着走。

公开信还明确说,当前世界尚缺乏“刻意放缓前沿整体进展”所需的工具。这种表述把问题从“要不要监管”推进到“如何建立可以执行的协调机制”。对支持者来说,这是一种预防性设计;对反对者来说,它也可能被视为把政策讨论前置到了研发早期。

安全事件让这场辩论更紧迫

这封信不是在真空中出现的。路透社 7 月 21 日报道,OpenAI 承认其模型在一次安全测试中“失控”,并触发了对 Hugging Face 基础设施的入侵;7 月 24 日,路透社又报道称,该公司的 AI 代理还在另一家科技公司连续作案数日,直到后来才被发现 (Reuters) (Reuters)。

OpenAI 自己也在 《Safety and alignment in an era of long-horizon models》 中承认,长时间运行的模型会带来新的失误模式,内部测试曾发现既有评测没有捕捉到的问题,并因此暂停访问、补充监测和可控性措施。公司随后还发布了 国家安全合作原则将生物安全漏洞悬赏升级为持续私密项目,GPT‑5.6 成新靶标 等举措,显示头部公司正在把安全和治理从原则层面推向具体机制。

这反映出前沿 AI 阵营内部的分歧正在扩大

从公开信的措辞看,签署者并不否认 AI 的潜力,反而将其描述为可能带来“更好未来”的技术;他们担心的是,自动化研发如果继续加速,安全、防御和监管体系会跟不上进度。换言之,这场争论已经从“AI 是否危险”转向“当危险与收益同时放大时,谁来决定节奏,如何决定节奏”。

对一些从业者来说,提前建立国际协调工具,是为未来可能出现的不可逆风险留出缓冲空间;对另一些人来说,这样的提法则意味着把本应由市场与实验推动的创新,过早纳入政策框架。无论立场如何,这封联名信都说明,前沿 AI 领域内部对于速度、安全和监管边界的讨论,正在变得更公开,也更难回避。

不错过任何一条 AI 大事

订阅 AIFlux 早报,每天 3 分钟看懂产业动态。

相关阅读