旧金山要求 Apple 和 Google 下架 13 款 AI “nudify” 应用

旧金山市律师要求 Apple 和 Google 从应用商店下架 13 款可生成非自愿裸照的“nudify”与换脸应用，并停止与相关开发者的分成合作。此举延续了旧金山此前对深度伪造色情网站的打击，外界关注两大平台是否会进一步收紧审核、搜索与分成机制以防止生成式 AI 滥用。

旧金山城市律师 David Chiu 近日向 Apple 和 Google 发出停止并终止函，要求两家公司从应用商店移除 13 款可用于生成非自愿裸照的“nudify”或“face-swap”应用。WIRED 披露的信函显示，其中 8 款来自 App Store，5 款来自 Google Play；信函还要求平台停止与相关开发者继续合作，并切断分成关系。

Chiu 对 WIRED 表示，生成非自愿亲密影像“illegal, harmful, and completely unacceptable”。他说，Apple 和 Google 可能已经从相关应用的内购中赚取“数百万美元”，而平台审核应当在这类应用上线前就将其拦下。WIRED 还引述两家公司回应称，Google 已删除“数百”款带有 nudify 功能的应用，并限制相关搜索词；Apple 则表示已下架 3 款被点名应用，并着手终止相关开发者账号。

旧金山把战线推进到应用商店

这次行动并不是孤立事件。旧金山市律师办公室早在 2024 年 8 月就已对 16 家制作和传播非自愿深度伪造色情内容的网站提起诉讼，相关案情可见 SF.gov 的官方通报；随后，办公室又在 2025 年 6 月宣布其中 10 个网站已被关停，见 这份后续声明。

这一次，监管压力进一步从网站端延伸到了应用商店端。旧金山方面的核心论点是：平台不仅是在被动托管这些工具，还通过搜索、推荐和内购分成把用户带向相关应用。Tech Transparency Project 在 2026 年 4 月发布的调查也指出，Apple 和 Google 的商店搜索与广告系统会把用户导向这类应用；该调查还估计，相关应用累计下载量达到 4.83 亿次，终身收入超过 1.22 亿美元，且有 31 款应用被标注为适合未成年人。TTP 报告

在儿童安全与内容治理上，谷歌等公司此前也曾重申对 CSAM 检测与上报的支持，相关背景可参考 AI Flux 另一篇关于谷歌等重申儿童安全承诺的报道。与此同时，生成式 AI 的滥用也已经不只停留在图像换脸层面，AI Flux 近期报道的 xAI 起诉一名用户：称其借 Grok 生成 CSAM“深度伪造” 一案，也把“平台责任”和“用户滥用”之间的边界推到了法庭上。

对 Apple 和 Google 来说，这场争议再次考验它们如何把“安全”“信任”和“审核”这些常见承诺落到具体执行上。旧金山方面已经表态会继续推进法律手段；接下来外界关注的，将是两家公司是否会把这类应用更快清出商店，以及是否会进一步收紧审核、搜索和分成机制。