Google Threat Intelligence Group 发布新报告，首次发现攻击者可能使用 AI 开发零日漏洞并计划大规模利用；Google 同时展示了如何用主动防御、模型内保护和 AI 工具检测与修复漏洞来遏制此类威胁。该报告强调了对外共享调查结果与在产品中加强防护的重要性，并将完整分析发布于 Google Cloud Threat Intelligence 博客。
要点概览：
- 新发现：GTIG 首次观测到疑似用 AI 开发的零日漏洞（zero-day），攻击者计划大规模利用，但被 Google 的主动发现与响应可能阻止。
- 公开共享：Google 将调查结果与安全与 AI 社区共享以提高透明度与协同防御。
Google 的防御措施：
- 产品层保护：在 Gemini 等模型中通过分类器、模型内保护机制和禁用恶意账户来减缓模型滥用。
- AI 驱动检测与修复：利用类似 Big Sleep 的 AI 代理检测软件漏洞，并结合 Gemini 的推理能力与 CodeMender 等工具自动修复漏洞。
- 主动应对策略：强调主动发现与快速响应，配合产品增强和保护措施，降低威胁成行的风险。
实践意义（对 AI/安全从业者）：
- 威胁态势：AI 不仅能被用于攻击工具的开发，也可成为防御方的重要手段；需在安全策略中同时考虑两面。
- 防护建议：在产品与模型中引入多层次检测、滥用防护、账户管理和自动化修复流程；加强与行业的情报共享。
更多信息：详见 Google Cloud Threat Intelligence 博客上的完整报告。
AI 同时放大攻击与防御能力，产业应把更多工程资源投向模型内与自动化的安全防护。