Google DeepMind与新加坡GovTech合作开发端侧AI诈骗检测工具，旨在不将私人对话上传云端的前提下识别多轮对话中的操纵性社交工程模式。该系统以轻量版Gemma模型为核心，采用两阶段本地筛查与上下文分析，并强调隐私保护与当前仍为合作原型的局限性。
Google DeepMind与新加坡政府科技局（GovTech Singapore）10月14日宣布，双方正在合作开发一款面向新加坡智能手机的端侧人工智能诈骗检测模型。该工具的目标，是在不把私人对话上传云端的情况下，识别聊天中逐步施加压力、诱导转账或索取敏感信息的社交工程模式。
这项合作在新加坡国际网络周（SICW 2026）期间公布。它目前应被理解为一项合作开发和部署方向，而不是已经覆盖所有通信应用、完成全国性商业部署，或经过独立机构证明准确率的成熟产品。
从“可疑链接”转向识别对话操纵
Google DeepMind在官方公告中说，诈骗已经从相对简单的钓鱼链接，发展为更复杂的社交工程。诈骗者可能先冒充公共机构、银行或当地知名人士，通过多轮对话建立信任，再要求受害者转账、交出验证码或提供其他凭据。
这类诈骗的难点在于，单条消息未必包含明显的恶意链接或关键词。真正的风险可能来自对话的连续性：对方是否不断制造紧迫感，是否要求保密，是否把用户引向下一步资金或信息操作。端侧模型试图分析的正是这些上下文和操纵性模式。
新加坡数字发展及信息部长兼网络安全事务部长Josephine Teo在新加坡网络安全局的演讲稿中表示，受害者可能先在社交媒体上接触诈骗，随后转到即时通信平台，接到电话，最后通过金融机构转账。每一个环节都有干预机会，但单一机构通常看不到完整链条，因此需要更早发现信号并加强跨平台协作。
Gemma模型负责更大范围的对话判断
据Google DeepMind介绍，该方案以轻量版Gemma模型为基础，并使用匿名化的本地诈骗对话数据进行微调。训练材料涵盖冒充公共机构、银行、当地知名人士以及区域性诈骗套路等场景，目的是让模型区分正常社交聊天与具有操纵性的诈骗对话。
系统采用两阶段流程：
- 第一阶段由低功耗、轻量级分类器筛查进入设备的消息，优先以较低的电量开销发现潜在风险。
- 如果消息被判定为可疑，第二阶段再由微调后的Gemma模型分析更大范围的多轮对话上下文，以确认是否存在诈骗模式，或排除误报。
当系统发现操纵性对话模式后，会直接在设备上发出实时提醒，建议用户在分享敏感信息或转账前暂停确认。这个提醒并不等于自动阻止所有交易，也不代表模型能够替代用户、银行或执法机构作出最终判断。
隐私承诺与模型局限需要同时看待
端侧处理的核心价值，在于对话内容可以留在设备上。Google DeepMind称，模型在设备本地处理对话数据，不依赖把私人聊天内容发送到云端进行扫描。这一设计也回应了端到端加密通信的现实限制：很多消息服务本身无法直接查看用户的私聊内容。
双方还表示，微调工作在GovTech管理和维护的Google Cloud环境中完成，训练数据不包含公民私人信息或可识别个人身份的信息，而是使用匿名化的诈骗报告和情报数据。项目还将通过合成对话和本地语料进行压力测试，以覆盖不同诈骗类型和不断变化的冒充策略。
不过，这些内容主要是合作方对开发流程和治理措施的说明，并不等同于独立安全审计或公开的准确率评测。官方公告没有披露误报率、漏报率、支持的具体手机型号、兼容的通信应用，也没有说明该工具何时、以何种方式面向公众提供。
此外，诈骗话术会快速变化，模型可能遇到训练数据中没有出现的新模式。端侧运行还需要在检测能力、电池消耗、存储空间和隐私保护之间作出取舍。对用户而言，任何提醒都应当被视为风险信号，而不是“没有提醒就一定安全”的保证。
新加坡正在把反诈骗防线延伸到设备端
新加坡近年来已经使用人工智能和机器学习处理诈骗网站、电话号码和线上账户等风险。GovTech的诈骗预防解决方案介绍称，其诈骗分析和战术干预系统（SATIS）用于协助新加坡警察部队识别和干扰诈骗基础设施，并通过人工与机器核验降低误报。
新加坡警方公布的2025年诈骗与网络犯罪简报显示，2025年新加坡共记录37,308起诈骗案件，较2024年下降27.6%；诈骗损失约为9.131亿新加坡元，下降17.9%。但“自我促成转账”仍占报告诈骗案件的81.8%，这意味着很多案件并不是诈骗者直接控制账户，而是通过欺骗和社交工程诱使受害者主动完成交易。
这也是端侧对话检测与传统网站拦截、来电过滤之间的区别：它试图在用户仍处于被说服阶段时发出提醒，而不是等到恶意网站、账户或转账已经出现后再采取行动。Google DeepMind称，新加坡自2019年以来报告的诈骗损失已经超过40亿新加坡元，其中社交工程诈骗造成的损失占比最高可达80%。这一背景数字来自Google DeepMind及新加坡政府方面的官方材料，口径与警方按年度统计的案件和损失并不完全相同。
端侧安全能否成为通信平台的共同能力
双方将这项合作描述为政府与模型提供商共同建设公共安全技术的案例。若模型足够轻量，未来可能由即时通信平台或移动操作系统集成，在本地完成风险筛查，而无需把完整聊天记录交给第三方服务器。
但端侧模型能否大规模应用，仍取决于通信平台是否愿意接入、设备性能是否足够、模型如何持续更新，以及用户是否能够理解提醒的含义。平台还需要回答数据更新、模型版本、误报申诉、未成年人保护和跨境数据处理等问题。
在更广泛的用户教育层面，AI也只能充当辅助工具。AIFlux此前关于OpenAI与AARP合作培训老年人使用AI并将其作为防诈骗“第二双眼睛”的报道也强调，模型可以帮助用户初步检查可疑信息，但不能取代向家人、银行、警方或有关机构核实。
因此，这次新加坡项目的真正意义，暂时不在于它已经证明端侧AI可以消除诈骗，而在于它提出了一种新的防御位置：在私人对话仍停留在设备上时，先识别可能的操纵性沟通，再给用户一次暂停、核实和拒绝转账的机会。它能否从合作原型发展为可靠、透明并被广泛采用的公共安全能力，还需要后续测试、部署信息和独立评估来回答。
来源：
- Google DeepMind：Google DeepMind and Singapore Government announce new AI tool to protect citizens against scams
- CNA：GovTech and Google DeepMind developing real-time detection of AI scams on devices
- 新加坡网络安全局：Josephine Teo在SICW 2026的开幕演讲
- GovTech：Scam prevention
- 新加坡警方：Scams and cybercrime fell by almost a quarter in 2025