标签： AI伦理

大模型出口管制：当AI权重开始像浓缩铀一样被监控

上周五，一封信让全世界最强大的两个AI模型同时下线。美国商务部发了纸出口管制令：禁止任何外国公民接触Anthropic的Fable 5和Mythos 5模型。因为没办法实时甄别用户国籍，Anthropic做了唯一能做的事：把这两款刚发布三天的模型，对全球所有人，全部关闭。

这是人类第一次，把一种以比特形态存在的智能体，纳入了与浓缩铀相同的出口管制框架。

浓缩铀离心机、高端光刻机、军用级加密算法——这些东西被管制，是因为它们有物理边界。不给你设备，不给你图纸，你就造不出来。可以在海关拦截，可以在供应链上溯源。

但Fable 5是一组权重参数。它可以被无限复制，不经过海关，不需要集装箱，不存在”偷运”这个物理动作。理论上，它可以在全球任何一台服务器上苏醒。

美国商务部发现传统工具全部失效。没办法在边境拦下Fable 5，只能在源头上掐断它。

真正被管制的对象，是这组权重参数所凝聚的”能力密度”：代码生成能力、推理规划能力、跨领域知识调用能力。这些能力分散在无数工程师大脑里时，从未触发过管制。但当它们被压缩进一个模型，当一个人可以用一句提示词调用所有这些能力时，压缩本身就构成了威胁。

这就是浓缩铀逻辑在数字世界的精确映射。

铀矿石遍布地壳，从未被管制；但当它被浓缩到一定丰度，就成了地球上被监控最严密的物质。模型同理：单个能力分散在开源代码库、技术问答和学术论文中时，它是自由的。当所有这些能力被”浓缩”进一个单点可调用的接口时，它就跨过了那道门槛，而跨过门槛的代价，是被关掉。

浓缩铀的剧本，正在重演

1938年，哈恩和斯特拉斯曼在柏林发现核裂变。此后十年，铀从一种晦涩的实验室元素变成了地球上最敏感的战略物资。1946年，美国通过《原子能法案》，将所有核技术、核材料、核知识统统纳入政府管控。私人资本被逐出核能领域，科学家的国际交流被切断，连基础物理数据都被列为机密。

一种纯粹的自然元素，从此被套上了政治的枷锁。

八十年前那场管制基于一个冷峻的逻辑：有些力量太过强大，不能被任何不以国家利益为最终考量的实体所掌握。八十年后，同一个逻辑可能再度被激活，目标从原子核的裂变，变成了神经网络的前向传播。

未来十年，三件事会发生

浓缩铀的管制在1950年代催生了一个全新的国际治理结构：国际原子能机构、核不扩散条约、供应国集团。技术管制一旦确立，就会不可逆地走向制度化、多边化、永久化。

AI不会例外。未来十年，大概率将有三件事发生。

• 能力审查将走向制度化。每一个新的前沿模型在发布前，将不仅接受安全红队测试，还将接受政府授权的第三方合规审查。审查标准不会来自公司内部。模型能力的评估，将从”跑分”变为”清单”。清单上的每一项可能被滥用的能力，都会触发额外的管制要求。
• 管辖边界将走向模糊化。Fable 5的命令针对的是”外国公民”，不分其地理位置。美国政府的管制触角，第一次延伸到了全球每一个用户。一个在新加坡的开发者，用着美国公司的API，被美国出口管制法管辖。这种管辖权的单方面扩张，将迫使非美国企业重新思考自己的AI供应链。
• 技术路径将走向分裂。当闭源前沿模型面临反复断电的风险，全球AI产业将被迫走向双轨制。一条轨道是美国的闭源前沿模型，受出口管制约束，每一次发布都伴随着被下架的风险。另一条轨道是开源模型、本地部署模型、非美国司法管辖区的模型，它们可能不如前者先进，但它们不受美国政府断电威胁。

开源模型的市场份额，将不只是由性能驱动，而是由”不被拔电”这一安全属性驱动。过去三年，开源模型在能力上一直在追赶闭源模型；未来十年，开源模型可能在”可靠性”这个维度上，对闭源模型形成结构性优势。

最深的裂缝，在产权制度

以上所有推演，都建立在一个尚未被回答的基础问题之上。Fable 5事件暴露出的最深危机，是数字文明至今没有为”智能”建立产权制度。

在法律上，模型是被当作一种服务来出售的。你付钱，我用我的资产为你做事。我的资产始终是我的，你买到的只是它的产出。这一逻辑在传统服务行业运转了上千年，从未出过问题。

但AI不同。当你的企业花了三个月时间，基于Fable 5的特定行为模式调优了所有内部工具，训练了员工，编写了数百条依赖该模型特定输出格式的自动化脚本之后，你已经在事实上将Fable 5变成了你的生产资料。

但在法律上，它仍然是Anthropic的服务。它可以在任何一天被收回，你能得到的赔偿，不超过你在过去一个月支付的那笔订阅费。

你付出了真实的生产资料投入，得到的是服务级别的法律保护。两者之间的落差，就是Fable 5下架时，全球所有企业客户所承受的损失。这笔损失没有出现在任何一张资产负债表上，没有触发任何保险理赔，没有任何法律条款能够覆盖。

人类花了三百年建立了一套关于”财产”的法律体系。一块土地，一座工厂，一项专利，都有清晰的产权归属、交易规则和争议仲裁机制。但这套体系有一个默认前提：财产是有形的，或者至少有可追溯的载体。

一个模型被拔电了，你什么都做不了。它既不是被偷，也不是被毁。它仍然存在，只是不让你用。这是一种全新的剥夺形式：剥夺的不是物，是使用权。而使用权在法律上，从来不属于你。

浓缩铀被管制了八十年，至今仍是人类最敏感的技术资产。AI的管制才刚刚开始，它的终点，可能是一个被永久分裂的数字世界。在这个世界里，最聪明的模型未必是能用的模型。能用的模型，一定是产权最清晰的模型。不被夺走，在某个历史关口，比一时领先重要得多。

AI裁员潮背后：当打工人被优化，科技大佬们正狂赚数百亿

上个月，美国科技公司裁掉了将近4万人。这是两年来单月裁员最高纪录。如果你去问这些公司为什么裁员，十有八九会听到同一个理由：AI。从Block到Cloudflare，从Meta到谷歌，CEO们在解释裁员时都把AI挂在嘴边，好像有了这个借口，一切就说得通了。

但事情没那么简单。Block的杰克·多西年初裁掉公司一半员工的时候，嘴硬说这是因为AI工具改变了工作方式，公司不需要那么多人了。结果网友在X上不买账，追问他疫情期间过度招聘的事。多西后来只好承认：行吧，我们确实招多了。

著名VC马克·安德森最近说得更直白：AI现在成了”银弹借口”。他在播客里说，几乎所有大公司都至少多招了25%的人，很多公司多招了50%，不少甚至多招了75%。现在它们都有了完美的借口：”啊，是AI的原因。”

真正让这事变得火药味十足的，是时间点的巧合。就在成千上万员工被叫去HR办公室领辞退信的同一时刻，一小撮AI圈内人正在变得富有——富有到普通人理解不了的程度。

上月初，AI芯片公司Cerebras Systems在纳斯达克上市，首日涨幅68%，市值冲到670亿美元。两位联合创始人安德鲁·费尔德曼和肖恩·李一夜之间成了亿万富翁。SpaceX上周五上市，市值2.1万亿美元，马斯克纸面财富突破万亿，顺便造就了大约4400个百万富翁和400个亿万富翁。Anthropic和OpenAI也在排队上市，估值都在万亿美元上下。

这还没完。在旧金山——现在遍地都是AI公司——高端房产经常以高于要价数百万美元的价格成交。马克·扎克伯格今年3月花了1.7亿美元在迈阿密的”亿万富翁堡垒”买了栋豪宅，创下迈阿密-戴德县有史以来最贵的房屋交易记录。两个月后，Meta宣布裁员8000人，约占员工总数的10%。

普通美国人的日子就没这么风光了。今年，有雇主提供的健康保险保费上涨6%到7%，是通胀率的两倍多。自2008年以来，私人健康保险的成本大约翻了一番。房价自2020年初以来上涨了28%，同时房贷利率也翻了近一倍。

今年1月《纽约时报》/锡耶纳学院的一项民调显示，65%的选民认为中产阶级的生活方式已经遥不可及。最近的另一项民调发现，76%的美国人现在把生活成本列为最关心的经济问题，比一年前的58%大幅上升。

这不是单纯的失业问题。这是数万被裁员工撞上一个异常无情的成本环境，而与此同时，数万AI圈内人正在见证一代人难得一见的账面财富变现，然后还被告知：AI就是你们丢掉工作的原因。

2008年金融危机之后，华尔街投行搞出来的烂摊子，最后是政府拿纳税人的钱去救它们，而数百万美国人丢了工作和房子。三年后，那种愤怒结晶成了”占领华尔街”运动。

如果按目前这个轨迹走下去，”占领华尔街”可能看起来都算温和了。”占领华尔街”是一场危机之后的运动，公众愤怒的核心是说不清楚谁来为收拾烂摊子买单。而这一次，连危机都没有。公司们在赚钱，AI本身在造富，裁员照样发生，而且AI被指为驱动因素。

2008年的画风是：”我们在救那些搞垮经济的人，而你丢了工作。”这一次可能的画风是：”我们靠那个正在用来替代你的技术变得空前富有。”

不少公司——包括Block、Atlassian、Cloudflare——发现，当它们把AI作为裁员理由时，股价会飙升。所以这个策略表面上说得通。但它们可能想清楚一件事：这真的是它们想传达给被裁员工、以及所有正在观望的人的信息吗？

一个恶搞项目，戳中了中国程序员的集体焦虑

上个月，一个叫”Colleague Skill”的GitHub项目在中国的社交媒体上疯传。项目的宣传很离谱——声称可以把同事的技能和性格特质”蒸馏”出来，然后用AI代理复现。虽然创始人后来承认这只是一个恶搞，但它在网上引发的讨论却一点都不好笑。

项目的操作逻辑很简单：输入同事名字，加点基本信息，它就会自动从飞书、钉钉这些办公软件里导入那个人的聊天记录和文件，然后生成一份”可复用手册”，详细描述这位同事的职责——甚至包括他的一些小怪癖——好让AI代理能够模仿。

“它甚至捕捉到了那个人用小箭头的习惯”

上海的一位科技工作者Amber Li（27岁）在社交媒体上看到这个项目后，拿它做了个实验——她用这个项目”重建”了一位前同事。几分钟内，工具就生成了一份文件，详细描述了那个人怎么工作。Li说：”效果出奇地好，它甚至捕捉到了那个人的小怪癖，比如他怎么反应、用什么标点习惯。”

有了这个”技能”，Li就可以把一个AI代理当作新的”同事”来用——帮她调试代码，而且秒回信息。但她说，这种感觉既诡异又不舒服。

“它甚至捕捉到了那个人的小怪癖，比如他怎么反应、用什么标点习惯。有了这个技能，我可以把一个AI代理当作新的’同事’来用。但感觉既诡异又不舒服。”

老板们在推什么？

自从OpenClaw在国内火了之后，中国的老板们就在推员工去试验AI代理。虽然AI代理能帮你读新闻、回邮件、订餐厅，但一线科技工作者说，这些工具在商业场景里的实用性目前为止还很有限。

Emory大学助理教授Hancheng Cao（研究AI与工作）认为，公司让员工制作这种”工作蓝图”有充分的理由——除了跟风。他说：”公司不仅能获得工具的内部使用经验，还能更丰富地掌握员工的知识、工作流和决策模式这些数据。这帮公司看清工作的哪些部分可以标准化或编码成系统，哪些仍然依赖人的判断。”

但对员工来说，制作代理甚至为它们制作蓝图，可能感觉奇怪而又疏离。一位软件工程师（因担心工作安全而匿名）用自己的工作流训练了一个AI（不是Colleague Skill），发现这个过程感觉很简化——就好像把他的工作压平成了模块，让他更容易被替代。

反抗开始了

这种”把人简化成技能”的推动也激发了聪明的对策。北京的一位AI产品经理Koki Xu（26岁）被这个想法激怒了，她在4月4日发布了一个”反蒸馏”技能。这个工具她大约花了一小时构建，设计目的是破坏为代理创建工作流的过程。

用户可以根据老板观察的密切程度，选择轻度、中度或重度破坏模式，然后代理会把材料重写成通用的、不可操作的语句，产生一个没那么有用的AI替代品。Xu发布的项目视频在网上疯传，跨平台获得了500多万个赞。

Xu告诉MIT Technology Review，她从一开始就关注Colleague Skill的趋势，这让她思考异化、失权以及更广泛的劳工问题。她说：”我本来想写一篇评论文章，但觉得做一个能pushback的东西更有用。”

上海的那位科技工作者Li说，她公司目前还没找到用AI工具替代真实员工的方法，主要是因为它们仍然不可靠，需要不断监督。她说：”我不觉得我的工作马上就有危险，但我确实觉得我的价值在被廉价化，而且我不知道该怎么办。”