旧金山市检察官 David Chiu 这周把一封信甩到了苹果和谷歌面前，要求两家把 13 款能生成「非自愿裸图」的 App 从应用商店里清掉。这类软件俗称 nudify——上传一张普通照片，AI 就能把它改成裸体图像，本质上就是对着真人做的深度伪造色情。
苹果在 7 月 19 日给了正面回应。发言人 Adam Dema 向 The Verge 确认，他们已经下架了其中三款，并且正在走流程，把这几位开发者的账号从开发者计划里踢出去。谷歌那边动作更早，之前就暂停了信里点名的五款 Android 应用，理由是 Play 商店「不允许包含性内容的应用」。
「我们一贯严格禁止那些用来生成、传播或消费色情内容的 App。nudify 这类应用违反我们的审核指南，我们主动拒绝过很多，也移除过很多——包括用户通过举报通道标记出来的那些。」
这件事的抓手在加州法律。当地法规明确禁止销售性化的 AI 深伪内容，所以 Chiu 给两家公司扣的帽子是「协助和教唆」这类 App 的售卖。换句话说，平台不再只是提供场地的角色，而是要为架上摆了什么货负责。
为什么是现在
非自愿亲密图像从来不是新麻烦，但生成式 AI 把它变成了流水线生意。过去做一张假裸照要懂点 Photoshop，现在一个不懂技术的普通人花几分钟就能拿到成品。应用商店审核往往滞后于这类 App 的上架速度，等投诉堆积起来，伤害已经造成。
- 被点名的 13 款 App 横跨 iOS 和 Android 两个生态，说明这不是某一家平台的问题。
- 下架只是起点：开发者换个马甲重新上架的成本极低。
- 真正的难点在于，平台怎么在审核环节就拦住这类应用，而不是等监管写信来催。
苹果和谷歌这次的反应算快，但推动他们的不是技术自觉，而是一封带着法律后果的信。当 AI 生成的色情内容开始大规模针对真实个人，应用商店这个守门人角色，迟早会被监管一层层钉死。
发表回复