标签： AI技术

AI 安全，这次是顶尖科学家自己站出来了

四月十七日到十九日，四个图灵奖得主凑在一起，在英国皇家学会开了三天会。这件事本身就不太寻常——Yoshua Bengio、姚期智、Stuart Russell、张亚勤，这四个名字任何一个单拎出来都够开一场主旨演讲，现在他们坐同一张桌子旁边，讨论的是同一件事：人工智能驱动的攻击行为，社会有没有准备好。

这场活动是”人工智能安全国际对话”（IDAIS）的第五场。这个机制是 2023 年成立的，之前走过了牛津、北京、威尼斯、上海，这一站放在伦敦，本身就有信号意义——英国在 AI 安全治理上一直想当”中间人”角色，既不完全跟美国走，也不站中国这边。

按照当前的技术演进速度，资源极为有限的非国家行为体——从有组织团体到独狼式个人——有望在一年内掌握部分国家级网络攻击手段。

声明里写了什么，为什么现在发

这份在伦敦签署的共识声明，核心警告可以浓缩成两句话：AI 正在让”搞破坏”的门槛降得比以前低太多，而全球社会还没准备好应对这个变化。

声明具体点了两大风险领域。第一个是 AI 赋能的网络攻击。前沿 AI 系统现在已经能在数小时内完成专家团队需要耗费数周才能完成的编程工作，包括发现并利用主流操作系统和浏览器的漏洞。曾经只有资源充足的国家行为体才能搞定的复杂攻击，现在正在以远超以往的速度落入远为广泛的人群手中。

第二个风险领域是生物滥用。前沿 AI 系统在与病原体设计相关的任务上已经超越博士级专家，使得较低层级的生物能力逐步进入非专业人士的可及范围。声明特别提到：能规划并协调多步骤实验室任务、还能协助构建新型专用生物 AI 模型的智能体，会进一步放大这个风险。

两大风险领域，声明给出了哪些应对方向

针对网络攻击风险，声明提出了几个优先事项：保护关键基础设施、建设对前沿 AI 系统网络攻击能力的评测能力、要求开展部署前测试并在必要时延迟更广泛的开放、对具备高级网络能力的前沿 AI 系统实施访问控制、建立信息共享与漏洞披露机制。

针对生物滥用风险，声明同样给出了优先事项：强化 AI 防护措施以应对高危生物滥用、对前沿闭源模型采取拒答训练和可信访问控制、对前沿开放权重模型开展预训练数据过滤、建设对前沿 AI 系统生物能力提升的评测能力、在核酸合成筛查方面开展国际协调。

这些措施听起来都很”应该”，但声明本身也坦承：目前的防护手段”远远不够”，基础性的技术与社会防御体系”仍处于萌芽阶段”，且在各司法管辖区之间部署极不均衡。

中国和美国，都被点名了

声明有一段话值得单独拎出来说：”主要人工智能司法管辖在协调方面负有特殊责任。这尤其包括美国和中国，以及其他在人工智能开发、部署和评估方面具有重要能力的司法管辖区。”

这是一份国际科学声明直接点名中美两国在 AI 安全治理上的特殊责任。过去类似声明往往泛泛而谈”国际社会应当……”，这次写得相当具体。

Yoshua Bengio 一直是 AI 安全领域最敢说的顶尖科学家之一。他牵头起草的《国际 AI 安全报告》在 2025 年发布，当时就有不少政府官员觉得”写得过于直白了”。这次 IDAIS 伦敦宣言的措辞同样相当直接，没有太多外交辞令。

声明最后还有一段类比，值得所有 AI 从业者认真读一读：”一场严重的人工智能赋能灾难不仅会造成巨大的直接危害，更会摧毁公众对人工智能系统的信任，并使人工智能本可带来的重大社会效益付诸东流。切尔诺贝利事故重创了全球核工业，至今仍让民用核能蒙上阴影，尽管现代反应堆设计已安全得多。”

把 AI 安全风险和切尔诺贝利相提并论——这份声明的分量，可能比很多人第一眼看到的要重得多。

AI智能体这事儿，终于从”能聊”变成”能干活”了

2026年有个明显的变化，AI不再只是坐在那里跟你聊天、回答问题，而是开始真正动手干活。这个转折点是个叫OpenClaw（龙虾）的开源AI代理框架，它的出现让整个行业都坐不住了，百度、阿里巴巴、腾讯、字节、智谱、月之暗面这些巨头公司一下子全都冲了进来。

就在这个节骨眼上，5月份国家网信办、国家发展改革委、工业和信息化部三家联合印发了《智能体规范应用与创新发展实施意见》，给这个新兴领域立了规矩。

智能体到底是个啥？

按官方说法，智能体是”具备自主感知、记忆、决策、交互与执行能力的智能系统”。说人话就是：以前的大模型像个只会纸上谈兵的军师，你问它啥它都能跟你掰扯半天，但真要它动手干活，它就傻眼了。

现在的智能体不一样，它能看屏幕、点鼠标、自动执行任务。百度创始人李彦宏说得挺直白：”智能体出圈了，第一次，AI的主角不是模型，而是应用。过去几年竞争核心是模型能力，现在用户真正买单的是’你能不能帮我把事做完’。”

衡量一个AI平台有没有戏，李彦宏提出要看DAA（日活智能体数），而不是DAU（日活用户数）。意思是，有多少Agent在给人类干活并交付结果，这才是真实的价值。

技术底座：从”大脑”到”执行”

要让智能体真正能干活，光有个”聪明的大脑”不够，还得有完整的感知、规划、执行、验证链路。月之暗面（Moonshot AI）的Kimi就是个典型例子，他们自研了大语言模型，总参数量达到1万亿，每次推理时激活约320亿参数，配备了384个细粒度领域专家。

这个模型用了MLA多头潜在注意力机制，把显存占用降到了传统架构的1/8，还引入了多Token预测目标来提升生成效率。这些技术细节听着枯燥，但实际效果就是：智能体能处理更长、更复杂的任务，而且不容易”掉链子”。

科研场景：从翻遍文献到一键出报告

《实施意见》里列出了19个智能体典型应用场景，科学研究排在第一位。2025年7月，上海交通大学和深势科技推出了通用科研智能体”SciMaster”，这个东西能干嘛呢？

你扔给它一个科学问题，比如”分子动力学在药物筛选中的典型流程是怎样的？”，它能把问题拆成多个子任务，全网搜文献、整合资讯、数据、论文、专利，最后给你生成一份能落地的深度调研报告。

在药物研发领域，智能体能把跨靶点的研究证据整合进知识图谱；在新材料领域，像电解液、固体电解质有机合成这些方向，也有智能体研发辅助产品。据湘汉智库的研究报告，智能体已经深度渗透材料化学、基因组生物信息、生物医学健康等核心科研领域。

电商场景：”一句话点外卖”成真

今年初，淘宝闪购跟千问智能体打通了。5月11日，千问与淘宝全面打通，这标志着全球超大规模电商平台与智能体应用的深度融合。

现在你可以直接跟智能体说”帮我点杯咖啡，不加冰”、”两份米线，其中一份加辣不要豆芽”，它能自动识别你的意图、位置和偏好，然后推荐可下单的商品。这个合作已经覆盖了全国300多个地级市和超过3000个区县，品类涵盖餐饮外卖、超市便利、生鲜蔬果、鲜花绿植、医药健康、手机数码等等。

有个挺有意思的细节：AI在帮忙选品时，还可能做出”劝退”动作。比如你试图让智能体买个”量子水杯”，它可能会直接给你科普一波，告诉你这玩意儿不靠谱。这种”反销售”功能，倒是挺接地气的。

金融和教育：秒读财报、梳理文献

以前券商研究员做行业研究，得泡在海量研报、财报、新闻里，翻遍资料，2-3天才能攒出一份初稿。现在把研究主题丢给Kimi，它立刻自动全网检索、逐页精读财报、提炼核心观点，一气呵成输出结构化分析草稿。原先2-3天的”苦活儿”，现在2-3小时就搞定。

教育领域也是一样，文献”大山”一直是高校师生的头号痛点。现在只需一次对话，智能体就能一口气读完所有文献，自动完成分类归档、提炼核心观点，梳理出包含研究脉络、争议焦点、未来方向的完整综述框架。博士生过去要熬2-3周才能啃完的文献梳理，现在1-2天就能拿出初版，而且内容更全面、更系统。

安全问题：智能体也需要”纠偏”

智能体当然不是完美无缺的，”满嘴跑火车”的幻觉问题、决策跑偏、执行掉链子，都是行业面对的难题。为了给智能体”纠偏”，研发端从技术上打响了”精准纠错战”。

深势科技的CTO廖若雪说得很实在：科学场景对于事实的准确性和推理的可溯源性要求极高。首先，智能体的知识需要是结构化的，而不是完全依赖模型去记忆知识；其次，智能体的推理过程也要通过特定算法进行置信度校验；此外还需强调验证，关键的科学论断不能只由智能体自行评估，得通过实际运行结果来验证结论是否真实。

360 AI安全研究院最近发布了《AI安全系列报告》，指出随着智能体加速进入企业办公、研发、运维、客服等核心业务场景，AI安全的核心问题正在从”生成风险”转向”执行风险”。他们提出了两条解决路径：一是用AI加持传统安全防护，提高漏洞发现、入侵研判、样本分析和响应处置效率；二是让不确定性任务在安全约束下执行，让智能体可以做事，但不能越界。

清华大学文科资深教授、苏世民书院院长薛澜认为，《实施意见》通过设定全链条安全要求，系统性预防智能体技术滥用、决策失控等风险，为智能体技术在全社会规模化应用建立必要的安全信任基础。

写在最后

智能体的崛起，既是技术迭代的必然，更是时代发展的趋势。这不是简单的技术升级，而是工作方式、商业逻辑、生活体验的全面重构。政策护航、技术成熟、场景落地，多重力量正推动智能体从行业探索走向深度赋能。

根据《AI智能体赋能行业决策：趋势与实践白皮书（2026）》，智能体在制造、金融、政务等行业的渗透率已经超过50%。这个数字背后，是无数工作场景正在发生的真实变革。