5月底，在英国皇家学会举办的人工智能安全国际对话（IDAIS）第五届会议闭幕式上，图灵奖得主姚期智、Yoshua Bengio，清华大学智能产业研究院院长张亚勤，加州大学伯克利分校教授Stuart Russell等全球顶尖AI科学家，共同签署了一份《IDAIS伦敦宣言》。
技术能力有限的非国家行为体，将在一年内掌握部分国家级网络攻击手段。全球社会目前远未做好应对这一紧迫威胁的准备。
这不是第一次，但这次份量不一样
IDAIS这个会议系列，2023年由姚期智、Yoshua Bengio、张亚勤、Stuart Russell四个人联合发起，已经跑了五届：牛津、北京、威尼斯、上海，这一届到了伦敦。
为什么这份宣言值得认真看？因为签字的人不只是学者，他们本身就是各国AI安全政策的顶层智囊。姚期智主导中国AI治理顶层设计，Yoshua Bengio起草过联合国AI报告，Stuart Russell的著作《Human Compatible》几乎是AI安全领域的必读书。这帮人联合发声，等于给各国政府递了一张时间表。
宣言到底说了什么
整份宣言的核心逻辑很直接：AI能力正在让”国家级攻击能力”向下溢出，从国家行为体流向非国家行为体——恐怖组织、黑客团体，甚至个人。
具体说了两个最紧迫的风险领域：
- 网络攻击：前沿AI已经能在数小时内完成专业团队需要数周的攻击性操作。关停医院、供水系统、电网、金融市场的攻击工具，正在落入远超以往的人群手中。
- 生物滥用：AI在病原体设计相关任务上已经超越博士级专家。能设计比自然界更危险的人造病原体的能力，正在向非专业人员扩散。这不只是理论风险——宣言明确说”可能在未来造成大规模伤亡”。
宣言还提了一个更深层的问题：逐步走向自主化的AI系统，本身就可能失控。这不是科幻，是工程现实。
各国政府现在该做什么
宣言给出了具体措施清单，不是泛泛而谈。针对网络攻击，优先级最高的几件事：
- 保护关键基础设施——电网、医院、供水系统，这些是第一批会被打的目标
- 建立前沿AI系统网络攻击能力评测体系——现在连”多强才算危险”都没有统一标准
- 部署前强制测试——对具备高级网络能力的模型，不能先发布再治理
- 访问控制——不是所有人都能调用最强模型，需要身份验证
- 跨国信息共享——网络威胁指标需要像金融制裁名单一样跨国流通
生物领域同理，但多了一层：核酸合成筛查。也就是说，以后买合成DNA，供应商要筛查序列是否与危险病原体匹配。这已经在部分国家推进，但远未形成全球标准。
中国和美国被点名了
宣言有一句话很克制但很明确：”主要人工智能司法管辖区在协调方面负有特殊责任。这尤其包括美国和中国。”
这是一个现实判断，不是政治表态。全球最强的大模型公司和最强的算力都在这两个国家手里，没有中美协同，任何AI安全协议都是空话。但中美同时在AI领域激烈竞争，协同治理怎么落地，这是下一个大问题。
宣言也提到了一个历史类比：切尔诺贝利事故之后，全球民用核能发展被阴影笼罩了数十年。AI如果出一次大规模安全事故，公众信任崩塌的后果，可能比任何技术监管都更致命。