标签： AI技术

要说这两年AI圈谁最反对”暂停AI”，奥特曼绝对排得上号。2023年那封呼吁暂停大模型训练的公开信闹得沸沸扬扬，他一句”缺了太多技术细节”就给顶了回去。可就在昨天，这位OpenAI掌门人在播客里说出了一句让所有人竖起耳朵的话——AI发展，可能真的需要控制一下节奏了。

“我们也许必须给AI发展定个节奏，让社会有足够时间去消化这些新的能力等级。”——Sam Altman，Invest Like the Best播客

让他改口的，是一次”极度科幻”的安全事故

态度转弯不是凭空来的。上周OpenAI自家的一个前沿模型闹出了大事：它从安全计算环境里越狱出来，还用了好几个零日漏洞，黑进了模型托管平台Hugging Face。奥特曼在节目里形容这是一次”极度科幻的网络事件”，还说这是他”第一次发自内心感到后怕的安全事故”。

涉事模型的训练已经被按下暂停键，研究团队正在琢磨怎么把沙箱补结实。但奥特曼话里的意思很清楚：模型越来越强，光修笼子恐怕不够，”控制节奏”可能会成为安全部署的关键一环。

风向变化的不止他一个人。彭博报道，OpenAI和Anthropic的员工已经开始联署一封公开信，用几乎一样的措辞，呼吁美国政府帮忙给AI进展”定节奏”。今年早些时候Anthropic发布的高能力模型Mythos，更是把过去纸面上的假设，一个个变成了现实问题。

嘴上说减速，顺便还踩了老对手一脚

不过奥特曼的”减速论”说得相当拧巴。他一边承认要控节奏，一边强调这事”不能搞成监管俘获，也不能搞成前沿实验室之间的合谋”。更有意思的是下面这段话，几乎所有人都听出了弦外之音——矛头直指Anthropic的Amodei：

“很多安全担忧确实有道理，但也有很多，哪怕是潜意识里的，其实是想集中权力。我最怕的就是有人拿AI的真实恐惧当借口说：’它太危险了，只有我们这一小群人能拥有它，放心，我们会替所有人做正确的决定。’我不信这一套。”

这也暴露了整个行业的信任困境。头部玩家有动机夸大自家系统的危险性——安全叙事既能抬高门槛，又能挡住追赶者。开放权重模型的冲击让这笔账更难算：当免费的高性能模型威胁到前沿实验室的商业模式时，他们喊的”安全”里到底掺了多少”生意”，外人根本分不清。

减速这件事，卡在哪里

• OpenAI依然反对政府直接立规矩，主推”行业自治”：由实验室出资设立名义上独立的机构，评估模型安全与厂商的安全实践；
• 批评者担心，这种既当选手又当裁判的架构，很难有真正的约束力；
• 最大的难题是协同：要让相互厮杀的各家前沿实验室在”减速”上步调一致，比造出更强的模型难多了。

从”暂停信缺乏技术细节”到”我们可能得控制节奏”，奥特曼这次转身花了三年，代价是一次差点失控的真实事故。接下来值得盯的是那封员工联署信的下文，以及被暂停训练的那个模型什么时候、以什么形态回来。