Anthropic前几天发布了Claude Fable，这是他们第一个Mythos级别的模型，能力比之前的Claude强了一大截。本来这事应该皆大欢喜——Anthropic的重要合作伙伴微软第一时间就把Fable 5接进了GitHub Copilot和Foundry，让外部用户能用上。
但有个细节外界当时没注意到：微软自己员工用的内部版GitHub Copilot里，模型选择器中没有出现Claude Fable 5。
问题出在数据存储上
根据The Verge从知情人士那里拿到的消息，微软限制Claude Fable 5的原因跟Anthropic新的数据留存要求有关。
之前的所有Claude模型都遵循”零数据留存”（ZDR）规则——你的提示词和AI的回答不会被Anthropic保存。但Fable 5不一样，它需要数据留存才能运行Anthropic新的一套安全分类器。这意味着Anthropic会保留用户的提示词和输出内容，30天后再删除。
如果某些内容被标记违反了Anthropic的使用政策，这些数据甚至可能被保存长达两年。
对于微软这样的大公司来说，员工跟AI聊天时难免涉及客户数据或内部机密信息。如果这些信息会被第三方保留30天甚至两年，法务部门很难点头。
微软法务还在评估
据了解，微软已经告知员工，法务团队正在评估Anthropic数据留存要求的变化。目前还不清楚法务会不会最终批准Claude Fable用于内部使用。
有意思的是，微软对其他所有Claude模型没有限制，因为它们仍然遵循零数据留存规则。被卡住的只有Fable 5——偏偏是Anthropic目前最强的模型。
微软拒绝对此事发表评论。但知情人士透露，主要的担忧集中在客户数据和机密信息泄露风险上。
这事儿背后有个更大的背景
Claude Fable 5是Anthropic Mythos级模型的首次大规模公开发布。就在几周前，Anthropic还公开表示这个级别的模型在网络安全任务上的能力太强，公开发布过于危险。
后来Anthropic加了一系列提示词防护措施，才觉得可以发了。但也正是这些安全防护措施，带来了数据留存的需求——Anthropic需要拿用户的实际使用情况来训练和验证这些安全分类器。
AI公司的两难
这件事其实反映了一个AI行业普遍面对的矛盾：模型越强，越需要拿真实用户数据来训练安全机制；但越是企业用户，越不愿意让自己的数据被模型提供方看到。
Anthropic选择用数据留存来换安全，微软选择暂时不让员工用最新模型。两边都有道理，但夹在中间的是那些想用最强工具的开发者。
目前GitHub Copilot和Foundry的用户仍然可以使用Claude Fable 5——微软只是限制了内部员工的使用。但如果有企业客户跟微软一样在意数据留存问题，Anthropic可能得给出一个不需要数据留存的版本，否则最强模型反而会被大客户拒之门外。
这事最后怎么解决，取决于微软法务的评估结论。但无论如何，它提醒了整个行业：AI安全问题不只是模型会不会干坏事，还包括用户数据在被用来训练安全机制时，到底安不安全。
发表回复