应用与产品 · 深度报道

Meta暂时撤回Muse人工客服测试:AI代理电话功能暴露隐私风险

Meta在Muse的电话功能测试中引入“人工客服”模式,由承包商在后台代为拨打电话以提高成功率,但因未充分告知用户与通话另一端而暴露隐私与透明度问题,Meta已暂时撤回该功能并表示会在完善披露和安全保障后再行推出。该事件凸显个人AI代理在真实场景中可能依赖人工劳动并带来数据访问与责任边界的挑战。

AIFluxNews AIFlux 编辑2026 年 9 月 23 日阅读约 5 分钟
Meta暂时撤回Muse人工客服测试:AI代理电话功能暴露隐私风险

Meta在Muse的电话功能测试中引入“人工客服”模式,由承包商在后台代为拨打电话以提高成功率,但因未充分告知用户与通话另一端而暴露隐私与透明度问题,Meta已暂时撤回该功能并表示会在完善披露和安全保障后再行推出。该事件凸显个人AI代理在真实场景中可能依赖人工劳动并带来数据访问与责任边界的挑战。

Meta在个人AI代理Muse的电话功能中测试了“人工客服”模式:当AI难以完成部分电话任务时,由人工承包商在后台代替Muse拨打电话。路透社看到的Meta内部帖子显示,这项测试因隐私披露不足、通话记录中的不当言论等问题遭到员工质疑,Meta随后暂时撤回了相关功能。

这起事件暴露出一个正在进入消费市场的现实:个人AI代理要真正替用户处理现实世界事务,往往不只需要模型、工具和权限,也可能需要人工劳动来弥补自动化能力的不足。但如果用户和通话另一端的人不知道电话背后有人工介入,原本被宣传为“自主代理”的产品就会面临新的隐私、透明度与责任边界问题。

Muse的电话功能原本想解决什么问题

Muse是Meta于2026年9月8日推出的个人AI代理,初期面向美国用户,通过独立应用、网页和WhatsApp提供服务。Meta在官方介绍中称,Muse可以代表用户发送邮件、填写表格、预订旅行、处理购物任务,并在需要时继续于后台推进较长流程。

电话功能则把代理的操作范围延伸到传统线上服务之外。用户可以要求Muse拨打美国商家的电话,例如预约理发、询问商品库存,或向不同承包商询价。按照这一设计,Muse应当与电话另一端的人沟通,并把结果反馈给用户。

但路透社9月22日报道称,Meta在8月开始让员工测试电话能力,并在Muse公开上线后逐步向用户开放。部分员工反映,保险公司等机构听到电话是由AI拨打后会直接挂断,另有用户报告通话过程存在失败或不可靠的情况。为提高成功率,Meta上周向约一半员工开放了“人工代理通话”测试,未愿意参加的人可以选择退出。

在这一模式下,Muse会把请求交给受训人工承包商,由后者实际拨打电话并完成沟通。换言之,用户以为自己在使用AI拨号,但部分通话实际上由人类完成。

隐私担忧如何出现

Meta内部员工担心,人工承包商可能在通话中接触到用户主动披露的敏感信息。路透社引用的一则内部帖子称,相关做法可能导致信息在没有充分告知的情况下泄露给呼叫中心承包商;另一名员工则质疑,为什么要为了这一功能承担不必要的风险。

内部讨论还提到,一次要求Muse致电互联网和有线电视服务商、协商账单的通话中,记录出现了不当的种族言论。Meta负责相关业务的一名副总裁随后承认,在没有充分披露的情况下启动人工代打测试是“失误”,并表示公司已经暂时回滚该功能。她同时向报告事件的员工道歉,并称涉事人工代理不会再参与Meta项目。

Meta发言人Daniel Roberts告诉路透社,公司开展测试的目的,是在正式公开发布前收集反馈、完善安全和隐私保护。他表示,Meta仍在与商家合作改进电话能力,只有在功能准备就绪并具备适当披露后才会推出。

Meta还表示,员工对测试的反馈总体上是积极的。不过,这一说法并不能消除核心问题:如果人工介入是系统设计的一部分,用户、被呼叫的商家以及通话记录的处理方,是否都能在通话开始前清楚知情。

“95%至98%成功率”不等于独立评测

Meta内部回应称,在部分测试中,由人工完成电话可以把任务成功率提高到约95%至98%,高于AI独立拨打电话时的表现。这个数字来自公司内部测试,Meta没有公开测试样本规模、任务类型、统计口径或比较基线,因此不能直接理解为Muse电话功能在真实环境中的普遍成功率,也不等同于独立第三方评测。

同样需要区分的是下载量与活跃使用情况。Sensor Tower向路透社提供的数据显示,Muse上线以来下载量已超过250万。下载量可以反映产品获得了一定市场关注,但不代表活跃用户规模、留存率或商业收入。

这两个数字共同说明了Muse面临的产品压力:一方面,用户和市场对能替自己完成任务的代理有兴趣;另一方面,代理必须在真实世界的电话、网站和服务流程中保持足够可靠。人工承包商可以暂时填补模型能力的缺口,却也会把原本的模型安全问题转化为人员访问、数据处理和告知义务问题。

这与Meta发布时强调的安全架构形成对照

在Muse发布时,Meta把隐私和隔离能力作为产品核心卖点。公司称,每个Muse代理都运行在独立的Muse Secure VM中,连接服务所需的数据和凭证被放置在隔离环境里;另一个名为Sentinel的组件负责控制网络访问,在必要时要求用户批准。

Meta还表示,Muse不会直接看到用户的密码或支付信息,用户可以选择连接哪些应用、授予哪些权限,并查看代理的活动记录。公司计划稍后推出Muse Confidential VM,让用户能够用只有自己持有的密钥加密整个虚拟机。

这些内容是Meta对产品架构和隐私政策的描述,并不是独立机构的安全审计结论。更重要的是,虚拟机隔离主要解决的是软件环境、凭证和网络访问问题,并不能自动解决人工承包商在电话中听到或记录信息后的处理问题。人工介入还可能削弱用户对于“数据只在AI系统内流转”的理解。

AIFlux此前在Meta将Muse个人AI代理扩展至Mac的报道中提到,个人代理一旦能够读取文件、调用应用并改变外部状态,权限、审批和可追溯记录就不再是附加功能,而是产品本身的一部分。此次电话测试显示,这一边界还需要包括“谁在实际执行任务”以及“另一端的人是否知情”。

人工介入并非新现象,但透明度要求更高

Meta过去也曾在Messenger中测试过名为“M”的数字助理。路透社称,媒体当年估计该代理约70%的任务实际上由人工完成。Muse的不同之处在于,Meta如今将其作为能够自主处理个人事务的消费级AI代理推出,并把安全虚拟机、自动执行和个人数据隔离作为重要卖点。

这使得人工介入不再只是早期产品背后的运营安排,而成为影响产品承诺是否成立的关键事实。如果人工只是少量用于质量控制,或许可以通过明确披露和严格的数据访问规则加以管理;但如果人工承包商在没有告知的情况下代替AI与商家通话,用户对自动化程度的理解就可能出现偏差。

类似问题也正在推动行业把关注点从“代理能否完成任务”转向“代理如何完成任务”。例如,AIFlux关于Google将Agent Anomaly Detection推入私有预览的报道指出,企业开始审计代理的推理轨迹、工具调用和执行流程,而不只检查最终答案是否正确。Muse的案例进一步说明,审计范围还必须覆盖外包人员、第三方服务和现实世界中的交互对象。

Meta目前只是暂时撤回人工客服测试,并没有放弃AI电话功能。公司仍在继续改进相关技术,并表示未来只有在准备充分、披露到位时才会重新推出。接下来需要观察的,不只是Muse能否提高电话成功率,还包括Meta是否会明确披露人工介入、如何处理通话中的敏感数据、如何让被呼叫的商家识别通话主体,以及用户能否事后查看和撤销相关授权。

Muse的人工客服测试并不能证明所有AI代理都依赖人工完成任务,也不能说明Muse的大多数通话都由人类处理。但它揭示了个人AI代理商业化过程中一个难以回避的事实:当自动化系统进入电话、支付、账户和个人数据等现实场景时,产品可信度不仅取决于模型表现,也取决于每一次介入是否被准确告知、记录并承担责任。

来源

不错过任何一条 AI 大事

订阅 AIFlux 早报,每天 3 分钟看懂产业动态。