Meta监督委员会发话了：AI生成的色情化视频，不能说不自愿就不删

来源：The Verge · 2026年6月23日

6月23日，Meta的监督委员会（Oversight Board）公开要求Meta下架一段在Instagram上流传的”AI生成色情化视频”——视频中的女性并非公众人物，但她的形象被AI篡改成了性化内容。

这本来不是什么新鲜事。Deepfake色情内容在互联网上已经泛滥了多年。但这次值得关注的是Meta的第一次回应——以及监督委员会为什么忍不了。

Meta第一次说”不违规”

事情发生后，有人向Meta举报这段视频，认为它违反了平台关于非自愿性化内容（NCII）的规定。Meta的审核系统看了一眼，得出的结论是：没有迹象表明这段内容是”非自愿的”，所以不用删。

这个判断听起来很荒谬——视频本身就是AI生成的，对象是一个普通女性，她根本没有”自愿”参与拍摄的可能性。但Meta的审核逻辑是：除非有明确证据表明确实是非自愿的，否则不认定为违规。

监督委员会直接否定了这个逻辑。他们在声明中写道：AI生成的对他人的冒名内容，应当”默认被视为非自愿”。换句话说，平台不能要求受害者来证明自己”没有同意”——因为AI生成的内容，本质上就不存在”同意”这个前提。

“AI生成的冒名内容应当被默认判定为非自愿内容。”——Meta监督委员会

非公众人物的”保护真空”

这次事件的受害者不是名人。她没有庞大的粉丝群体帮她发声，也没有公关团队帮她向平台施压。她只是一个普通用户，突然发现自己的脸出现在了一段她从未参与过的性化视频里。

监督委员会特别指出了这个问题：现有的内容审核机制，对公众人物和非公众人物的保护是不对等的。名人发的深伪色情内容确实也会被处理，但往往是因为涉及”露骨内容”或”骚扰”，而不是因为”未经同意”。而对于普通人来说，这种内容造成的伤害可能更大——她们没有应对机制，也没有话语权。

委员会的建议很明确：Meta应该修改其内容审核标准，将”AI生成的冒名内容”单独列为一个类别，并默认视为非自愿内容处理，不需要举报人提供额外证明。

审核跟不上生成速度

这件事背后更大的问题是：AI生成内容的爆发速度，已经远远超过了平台内容审核的跟进速度。以前要制作一段色情化视频，需要真实的拍摄和后期；现在只需要一张照片和一段开源的Deepfake代码，几分钟就能生成一段以假乱真的视频。

Meta每年在内容审核上花费超过50亿美元，雇用了上万名审核员，还部署了AI审核系统。但面对AI生成的NCII，这套体系仍然显得力不从心——审核员需要判断”这是真的还是AI生成的”、”当事人是否自愿”，而这些判断在越来越多的案例中变得极其困难。

监督委员会的这次介入，某种程度上是在替Meta”补课”。委员会本身是一个独立机构，由Meta资助但独立运作，专门审查Meta的内容审核决策是否得当。这次它站在了受害者一边，也等于给整个行业提了个醒。

其他平台在做什么

Meta不是唯一面临这个问题的平台。TikTok、X（推特）、Pornhub都曾被指责对Deepfake色情内容处理不力。2024年，X甚至因为大量Deepfake色情内容被安全组织点名，被迫更新了相关审核政策。

有一些平台开始尝试用技术手段主动检测AI生成内容——比如在上传时自动识别是否由已知Deepfake工具生成。但这类技术的准确率仍然有限，而且新的生成工具每天都在出现，检测永远慢一步。

更根本的解决方案可能是立法。美国多个州已经在推动相关法案，要求平台在收到举报后必须在规定时间内删除Deepfake色情内容，否则将面临罚款。但联邦层面的立法进展缓慢，而互联网本身又是跨地域的，单一国家的法律能起多大作用，还是个问号。

监督委员会这次的表态，至少让”AI生成冒名内容应默认视为非自愿”这个原则被摆上了台面。接下来要看Meta会不会真的修改审核标准，以及其他平台会不会跟上。对于无数可能成为下一个受害者的普通用户来说，这一天来得已经够晚了。