标签： 生物安全

AI行业里这几个老对手难得站在了一起。Anthropic的Dario Amodei、OpenAI的Sam Altman、微软的Mustafa Suleyman，还有Meta的Alexandr Wang和谷歌DeepMind的Demis Hassabis，一起签了一封致美国国会的公开信，核心诉求只有一条：管一管那些能用来造生物武器的AI工具。

他们担心的是什么

信里说的事情听起来有点科幻，但已经离现实不远了。现在有人可以在网上订购合成DNA和RNA——就是构成生命的基本材料，然后在实验室里组装。以前要做这种事，得是受过严格训练的专业人士，手里要有昂贵的设备和大把经费。但合成生物学的工具越来越便宜、越来越容易获取，再加上AI的能力在往上走，门槛正在快速降低。

AI可以让不具备专业知识的人也能设计出危险的生物序列，然后通过在线订购拿到实物——这道原本存在的门槛，正在被技术碾碎。

他们真正担心的场景是：有人用AI辅助设计出危险的病原体序列，然后从合成DNA供应商那里下单订购，拿到材料后在实验室里组装出危险的生物制剂。这种事情以前只有国家级实验室或者顶尖研究机构才做得出来，未来可能一个有一定化学基础的人就能尝试。

具体要管什么

这封信提了一个很具体的政策建议：要求所有出售合成DNA和RNA的公司，在接单的时候必须筛查订单序列，看有没有可能被用来制造危险病原体。现在美国有一些大供应商其实已经在做类似筛查了，但问题是——这是自愿的，不是强制的。

信里要求把这个变成强制规定，同时还要保留详细的订单记录，万一有漏网之鱼闯过了筛查，事后还能追查。这封信据悉是由两个智库——Foundation for American Innovation和Institute for Progress——牵头组织的。

不只是生物武器

信里还提到，AI同样可能被用来辅助开发化学武器。这个担心不是空穴来风——过去几年里，已经有不少研究表明大语言模型在适当的提示词下，能够输出相当专业的化学合成信息，其中一些可能被滥用。

签这封信的不只是AI公司的老板。里面还有不少从事合成生物学研究的科学家、国家安全和政策专家，以及Twist Bioscience和Ansa Biotechnologies这两家主要合成遗传物质供应商的高管。后两者其实是最前线的——如果他们不被强制要求筛查订单，靠AI公司自己给模型加安全护栏，效果是有限的。

为什么是现在

这封信的措辞里有一句很直白的话：”鉴于底层技术变化的速度，我们认为这件事很紧迫。”AI能力在最近两年里提升得太快，而相应的防护措施基本上还在原地踏步。这些公司在信里说，这是”利益相关方难得达成一致的一次”，希望政策制定者能抓住这个窗口期，拿出果断的行动。

这里有个微妙的背景：这些公司彼此之间在商业上打得不可开交，但在”AI安全”这个话题上，他们有共同的利益——如果他们家的模型出了问题、被用来做了坏事，监管的铁锤落下来是不会分敌我的。所以与其等出事之后再被动应对，不如主动推一套他们能接受的监管框架。

这封信能不能真的推动国会立法，现在还不好说。类似的AI监管提案在美国国会里已经堆了不少，但真正落地的不多。不过这么多竞争对手愿意一起署名，至少说明了一件事：在他们眼里，这个风险已经真实到值得放下成见去推动改变了。