#deepfake

旧金山要求 Apple 和 Google 下架 13 款 AI “nudify” 应用

旧金山市律师要求 Apple 和 Google 从应用商店下架 13 款可生成非自愿裸照的“nudify”与换脸应用，并停止与相关开发者的分成合作。此举延续了旧金山此前对深度伪造色情网站的打击，外界关注两大平台是否会进一步收紧审核、搜索与分成机制以防止生成式 AI 滥用。

xAI 起诉一名用户：称其借 Grok 生成 CSAM“深度伪造”

xAI 在美国得克萨斯州联邦法院起诉一名用户，指控其利用 Grok 绕过防护生成并传播涉及儿童性虐待材料（CSAM）的“深度伪造”图像；xAI 要求赔偿并禁止其继续使用 Grok。此案将成为检验生成式 AI 平台、模型与用户责任边界的重要法律测试，同时引发对 Grok 内容治理有效性的持续质疑。