谷歌在2025 年通过 Gemini 驱动的工具实现了对违规广告的前置拦截，系统在投放前阻止了超过99%的违规广告，并在全年封禁或移除超83亿条广告与2490万账户，其中涉及诈骗的有6.02亿条广告和400万账户。Gemini 结合账户年龄、行为信号与投放模式等数百亿信号，提升检测精度与速度，既减少误伤也加快对用户举报的处置。
概览
- 时间点：2025 年广告安全报告（Google）
- 核心成果：借助 Gemini 模型，系统在广告投放前拦截了超过99%的违规广告；阻止或移除 >8.3 亿条广告，暂停 24.9 万（注：原文为 24.9 million，即 2490 万）账户；与诈骗相关的为 6.02 亿广告与 400 万账户。
技术要点
- 多维信号：模型分析数百亿信号，包括账户年龄、行为线索、投放/活动模式等，而非仅依赖关键词匹配。
- 意图识别：升级后的模型更擅长理解广告意图，能识别刻意规避检测的欺诈与误导手法。
- 实时阻断：对多数响应式搜索广告实现即时审核与提交即阻断的能力，并计划扩展到更多广告格式。
运营与治理
- 广告主验证：配合广泛的广告主身份验证计划，阻止坏演员进入系统，提升展示广告的信任度。
- 用户反馈处理：借助 Gemini 加速用户举报的处理量，2025 年对举报的处置量是上一年的 4 倍以上，迅速修正漏网之鱼。
- 降低误伤：模型的细粒度分析帮助区分可信要约与复杂诱饵，使错误暂停广告主的情况下降约 80%。
对从业者的启示
- 防御赛跑：生成式 AI 也被不法分子用于大规模生成欺诈投放，平台需以同类或更强能力的检测模型应对。
- 信号融合重要性：结合行为、账户和投放模式等多源信号，比单一文本或图像检测更能抓住新型欺诈策略。
- 实时与可解释性权衡：实时阻断能压制伤害扩散，但需保持误判率低并提供可追溯的解释与人工复核路径。
进一步阅读
- 详见 Google 的 2025 Ads Safety Report（原文链接）
Gemini 把前置拦截和多信号意图分析做到了规模化，但长期还需要提升可解释性与对抗鲁棒性。