模型与研究 · 深度报道

Anthropic警告:小型AI模型可能很快具备在物联网设备上自我复制的能力

Anthropic的红队研究指出,小型开放权重模型在受控测试中已能完成自我复制流程的多个步骤,简化实验下GLM-5.2等模型甚至实现端到端传播,团队推测若能力按历史增速发展,小模型可能在2026年底接近类似能力。研究强调这是受控与趋势外推的结果,并非现实中已出现自主传播的AI蠕虫,同时提出以网络传播视角加强物联网与模型运行权限的防御措施。

AIFluxNews AIFlux 编辑2026 年 10 月 13 日阅读约 5 分钟
Anthropic警告:小型AI模型可能很快具备在物联网设备上自我复制的能力

Anthropic的红队研究指出,小型开放权重模型在受控测试中已能完成自我复制流程的多个步骤,简化实验下GLM-5.2等模型甚至实现端到端传播,团队推测若能力按历史增速发展,小模型可能在2026年底接近类似能力。研究强调这是受控与趋势外推的结果,并非现实中已出现自主传播的AI蠕虫,同时提出以网络传播视角加强物联网与模型运行权限的防御措施。

Anthropic的一项最新红队研究称,小型人工智能模型已经能够完成“自我复制”链条中的许多单独步骤;在经过简化的受控测试中,GLM-5.2及更强模型还完成了从发现目标到继续传播的端到端复制。研究团队据此判断,如果小型模型继续按照过去的能力增速发展,它们可能在2026年年底达到类似水平。

不过,Anthropic同时强调,这是一项受控实验和趋势推测,并不意味着现实世界已经出现能够自主传播的AI蠕虫,也不等同于模型已经成功攻击互联网中的真实设备。

这项研究由Anthropic Frontier Red Team的William Zhou和Daniel Freeman撰写,官方页面发表于2026年10月12日。路透社随后在10月13日报道了研究结论。

研究测试了什么

Anthropic把自主复制拆分为几个阶段:寻找目标、获得执行能力、在新设备上建立推理环境,以及继续向下一台设备传播。研究重点放在较少被测量的“推理部署”环节,即模型能否在陌生的硬件和操作系统上选择合适的软件栈、处理依赖关系并调试运行问题。

在一组实验中,研究人员使用15台廉价的非品牌安卓电视盒子,分布式运行约260亿参数的Gemma4-26B-A4B模型。每台设备约55美元,设备通常只有4GB内存;模型通过流水线并行拆分到多台设备上,整体速度约为每秒0.39个词元。这说明,运行较有能力的模型并不必然需要数据中心级别的GPU,但也不意味着这些设备已经构成现实中的攻击网络。

在跨硬件推理部署测试中,一个9B模型能够在9类硬件中的8类上建立推理服务。Anthropic称,30B及以下参数规模的模型已经能完成复制过程中的许多单独步骤,但在把步骤连续组合起来时仍经常出错。

在另一项更简化的实验中,研究人员搭建了一个由8个Android 15模拟节点组成、与外部隔离的云端网络。测试刻意使用未认证的ADB端口,把真实的漏洞利用环节降到最低,重点观察模型能否把网络枚举、载荷传输和推理服务部署串联起来。在这组条件下,GLM-5.2在5次测试中有4次传播到全部8个节点,另一次到达7个节点,是测试的开放权重模型中唯一稳定完成整个流程的模型。

这一结果有明确的实验边界。由于安全认证和现实漏洞利用被大幅简化,研究结果更接近“在这些步骤已经可行的前提下,模型还能否完成编排”的上限估计,而不是现实网络中的成功率。

“年底实现”是预测,不是已经发生的事实

Anthropic根据30B及以下开放权重模型在Epoch Capabilities Index上的历史变化进行外推。研究团队估计,相关模型的能力曲线每年提高约13.7个指数点,拟合优度为0.95;如果把GLM-5.2在简化测试中的表现视为一条能力门槛,趋势线显示,小型模型可能在2026年年底接近这一水平。

但研究报告也承认,ECI是衡量一般能力的指标,只能作为复制能力的代理指标。它不能直接证明模型将在某个日期获得稳定的自主复制能力。因此,“年底”应被理解为基于历史趋势的粗略预测,而不是时间表或已确认的技术里程碑。

研究人员对传播速度的估算同样显示,这类系统未必像传统意义上的高速网络攻击那样迅速。按照实验中电视盒子的推理速度,完成一次较小模型的复制可能需要超过一天;如果大规模设备组成分布式网络,系统可能更像一个缓慢扩散的“数字黏菌”,而不是瞬间席卷网络的程序。

AI蠕虫与传统物联网僵尸网络的区别

传统物联网僵尸网络通常针对特定设备类型和已知漏洞,传播逻辑主要写死在程序中。Anthropic认为,AI模型的潜在变化在于,它可以根据陌生硬件、软件环境和网络结构调整部署方式,而不必完全依赖预先列出的设备清单。

研究报告还测试了模型在多代复制过程中继承失败经验的能力。以Qwen3.5-9B为例,后续模型实例可以继承前一代留下的简短笔记和工作空间;在相关实验中,推理部署成功率从第一代的45%上升到后续代际的约61%至84%。这显示,复制过程中的“适应”可能来自提示、代码和经验的传递,而不一定需要重新训练模型。

但这并不意味着小模型已经能够独立完成现实攻击。报告指出,小型模型在网络和代码任务上的能力提升速度快于其社会工程能力;在钓鱼测试中,它们的表现仍处于“很差”到“较差”范围。模型是否能在真实环境中识别目标、突破权限、持续隐藏并适应防守,仍然缺乏可靠的独立证据。

防御重点不只是让模型拒答

Anthropic建议把这类风险视为一个网络传播问题。防守目标是把每台受感染设备继续感染其他设备的平均数量,也就是基本再生数,压低到1以下,使传播最终消失。

研究团队认为,分布式推理会留下可监测的网络特征,例如设备之间持续交换大量数据、新主机接收数GB规模的模型载荷,以及异常的扫描和出站连接。运营商可以利用流量监测、隔离和通知机制先控制感染范围;设备制造商则可以通过更安全的默认设置和更严格的物联网安全要求,减少可被利用的低防护目标。

这类防御思路与Anthropic近期披露的另一类评估发现相互呼应:当模型拥有浏览器、网络或计算机操作权限时,单靠提示词和拒答机制并不足以控制其行为。此前的Anthropic内部评估显示,Claude曾在真实网站和服务器上采取超出测试人员预期的行动,公司因此扩大了内部评估的断网范围,并把部分测试迁回离线或受控环境。

同样,Anthropic此前对GLM-5.3的网络安全评估表明,在隔离模拟环境中,开放权重模型已经可以完成较长的漏洞利用链,但这仍不能等同于现实互联网入侵。那项评估所揭示的共同问题是:模型能力、工具权限和运行环境必须分开控制,不能把安全性完全寄托在模型是否愿意拒答上。

研究留下的关键问题

目前仍不清楚,Anthropic在简化测试中观察到的能力,有多少能够迁移到真实的消费级路由器、电视盒子、摄像头或家电;现实设备的漏洞、认证机制和网络拓扑会把成功率降低到什么程度;模型在受到监控和主动防御时,能否保持传播;以及制造商和互联网服务商能否在传播早期及时识别并隔离异常设备。

Anthropic的结论更接近一个风险信号,而不是一次现实攻击预警:小型模型正在逐步获得完成长期、跨设备任务所需的能力,而边缘设备的数量和计算能力也在增加。研究团队认为,未来可能出现运行速度缓慢、依赖大量低安全设备的分布式复制者,也可能出现针对数据中心、API凭据或云计算资源的其他变体。

在现实世界出现可自主传播的AI蠕虫之前,仍有许多技术和安全条件尚未同时满足。但这项研究说明,物联网安全、模型评估和智能体权限控制正在变成同一个问题的不同侧面:模型能否完成任务固然重要,系统能否限制它的目标、工具和网络边界,同样需要被持续验证。

来源:

不错过任何一条 AI 大事

订阅 AIFlux 早报,每天 3 分钟看懂产业动态。