YOHO AI

标签： 多智能体

  • 当AI代理开始「成群结队」地上网，Google DeepMind说：得先研究一下会出什么事

    当AI代理开始「成群结队」地上网，Google DeepMind说：得先研究一下会出什么事

    一个人干坏事，和一万个人同时干坏事，完全是两个概念。AI代理也是一样。Google DeepMind的AGI安全与对齐研究负责人Rohin Shah最近在担心一件事：当数以百万计的AI代理同时在线、互相交互的时候，会发生什么？

    这个问题听起来有点遥远，但Shah说：还有几个月就来了。他没有危言耸听——AI代理正在从「演示视频」走向「真实部署」，而当数量突破临界点，行为模式可能完全不一样。

    1000万美元，买一个研究领域

    为了未雨绸缪，Google DeepMind在2026年6月联合几家机构宣布了一笔1000万美元的研究资金，专门用来研究多智能体系统的安全风险。

    跟Google DeepMind一起出钱的包括：施密特科学基金会（Eric Schmidt夫妇的慈善基金）、英国政府的「登月局」ARIA、非营利研究组织Cooperative AI Foundation、以及Google的慈善部门Google.org。

    AI多智能体系统安全概念图
    多智能体AI系统的安全风险正在成为新的研究前沿（配图由AI生成）

    Shah说，这笔钱的主要目的是「启动学术界对多智能体安全的研究」。工业界实验室忙着做产品、冲估值，没人仰望星空——学者的优势是可以想得很远，包括那些工业界「脑子里排不上号」的问题。

    「主要问题是，多智能体安全几乎还不是一个真正的研究领域。我们希望它成为。」
    ——Rohin Shah，Google DeepMind

    风险到底是什么？

    Shah和施密特科学的James Fox说，最主要的担心是：现在互联网上已经有的坏事——诈骗、网络攻击、恶意软件——到了AI代理时代，会被「超级加倍」。

    比如「提示注入」（prompt injection）：如果一个AI代理被喂了恶意指令，它就会变成一台自动行动的恶意软件，而且比任何人类黑客能干的都多。Fox说：「我们的数字公共空间是社会运作的基础，你真的不希望它陷入无政府状态。」

    为什么这个问题特别难？

    你不能用研究单个代理的方法来研究多代理系统。Fox说，基于LLM的AI代理不总是理性行动，而多代理系统的复杂性来自于「海量交互同时发生」。

    唯一理解它的方法，是在沙箱里做逼真的模拟。有些研究者（包括Google DeepMind的一个团队）甚至认为：通用人工智能（AGI）可能不是来自于单个超级模型，而是来自于一种「代理蜂巢思维」——多个代理的能力加起来大于部分之和。

    不是只有Google在担心

    Google DeepMind不是唯一一家对自己的技术感到担心的AI巨头。几周前，Anthropic发布了基于「零信任」原则的AI代理部署指南——零信任是网络安全里的一个思路，核心假设是：系统一定有漏洞，代理可能是攻击者，入侵一定会发生。

    以色列特拉维夫网络安全公司Akeyless的联合创始人兼CTO Refael Angel说：「过去所有的安全方法都假设机器是人类写的软件，走固定路径、做固定事情。代理打破了所有这些假设。它会推理，它会即兴发挥，它可能被人用一句话劫持。」

    Angel欢迎这笔1000万美元的研究资金，但他提醒：安全研究者容易沉迷于「极端假设场景」，而忽视了已经发生的无聊问题。这也是Shah他们在努力平衡的——既要看远，也要看准。

    我们还有多少时间？

    Shah说，我们还有「几个月」的时间，代理就会在经济中大规模部署，到那时潜在风险就成了真正的问题。他想跑在这个时刻前面。

    Fox补充说：几年前还是假设的风险，现在已经很真实了。「未来来得比预期快。」

    1000万美元，对于Google DeepMind自己的研发预算来说，是九牛一毛。但这笔钱的意义在于：把多智能体安全这个问题，从工业界的「顺手看看」变成学术界的「正经研究领域」。当AI代理开始成群结队地上网，我们最好已经想清楚会发生什么。

  • Microsoft AutoGen – 微软开源多智能体AI协作框架 [58.7K+ Stars]

    Microsoft AutoGen – 微软开源多智能体AI协作框架 [58.7K+ Stars]





    Microsoft AutoGen – 微软开源多智能体AI协作框架


    AutoGen Logo

    Microsoft AutoGen 官方Logo

    📝 项目简介

    Microsoft AutoGen 是微软推出的开源多智能体AI对话框架，通过可定制、可对话的智能体集成LLM、工具和人类参与，实现复杂任务的自主协作求解，是构建下一代AI Agent应用的核心基础设施。

    58.7K+
    GitHub Stars

    533+
    贡献者

    0.2.x
    最新版本

    ⚙️ 安装要求和过程

    环境要求

    • Python版本：3.8 及以上
    • 依赖项：OpenAI SDK 或其他LLM提供商SDK
    • 可选：Docker（用于代码执行环境）

    快速安装步骤

    方法一：使用 pip 安装（推荐）

    pip install pyautogen[blendsearch]

    包含blendsearch用于超参数优化

    方法二：从源码安装

    git clone https://github.com/microsoft/autogen.git
cd autogen
pip install -e .

    配置LLM

    创建配置文件 OAI_CONFIG_LIST：

    [
  {
    "model": "gpt-4",
    "api_key": "your-api-key",
    "api_base": "https://api.openai.com/v1"
  }
]

    ✨ 核心功能

    🤖 1. 多智能体协作

    支持多个Agent自主对话和协作，每个Agent可以扮演不同角色（如助手、用户代理、代码执行器等），通过对话完成复杂任务。

    💻 2. 内置代码执行

    UserProxyAgent 可自动执行生成的代码，支持Python代码执行，并可配置Docker环境实现安全的隔离执行。

    🔧 3. 工具集成

    轻松集成外部工具和API，支持函数调用、工具注册，让Agent能够使用搜索引擎、数据库、计算器等工具。

    🎭 4. 灵活的Agent定制

    通过register_reply()方法注册自定义回复函数，灵活定义Agent的行为和角色，支持静态和动态对话模式。

    📊 5. 完整可观测性

    提供完整的对话日志和监控功能，方便调试和优化Agent行为，支持对话流的可视化分析。

    🎯 典型使用场景

    场景一：自动化数据分析与报告生成

    应用案例：企业需要定期分析销售数据并生成报告。

    实现方式：

    • AssistantAgent 负责生成数据分析和可视化的Python代码
    • UserProxyAgent 自动执行代码，生成图表和分析结果
    • 多个Agent协作完成数据清洗、分析、可视化、报告撰写全流程

    价值：将原本需要数小时的数据分析工作缩短至几分钟，且可完全自动化执行。

    场景二：智能代码助手与调试

    应用案例：开发者需要快速实现功能并调试代码。

    实现方式：

    • 一个Agent充当编程助手，提供代码建议和最佳实践
    • 另一个Agent充当代码审查者，检查代码质量和潜在问题
    • UserProxyAgent执行代码并反馈运行结果

    价值：通过多Agent协作，实现代码的自动生成、测试、调试和优化，显著提升开发效率。

    场景三：复杂任务的自主求解

    应用案例：需要多步骤推理和工具调用的复杂问题（如”今天的日期是什么？今年哪只大型科技股年初至今涨幅最大？涨幅是多少？”）。

    实现方式：

    • AssistantAgent生成获取日期和股票数据的代码
    • UserProxyAgent执行代码并获取实时数据
    • Agent之间自主对话，分解任务、执行子任务、整合结果

    价值：展示了AutoGen处理需要外部工具和多步骤推理的复杂任务的能力。

    💡 推荐理由

    作为一名AI开发者和研究者，Microsoft AutoGen 给我留下了深刻印象：

    1. 设计理念先进：AutoGen 将多智能体协作抽象为对话，这种设计非常直观且易于理解。相比于其他框架需要复杂配置，AutoGen 通过简单的 Agent 定义和对话发起，就能实现复杂的多Agent协作。
    2. 实践价值极高：我亲自测试了AutoGen的代码执行功能，UserProxyAgent能够自动执行生成的代码并反馈结果，这个”生成-执行-反馈”的闭环极大提升了任务求解效率。在数据分析任务中，原本需要手动编写和调试代码的过程，现在可以通过自然语言描述需求，让Agent自主完成。
    3. 生态活跃完善：微软团队持续维护，社区贡献活跃，文档详尽。从基础的两Agent对话到复杂的动态群聊、层级对话，官方提供了丰富的示例和教程。而且AutoGen已与Semantic Kernel合并为Microsoft Agent Framework，未来会有更强大的功能集成。
    4. 适用场景广泛：无论是简单的问答系统，还是复杂的自动化工作流，AutoGen都能胜任。特别是对于需要多步骤推理、工具调用、代码生成的任务，AutoGen表现优异。

    💭 个人心得：AutoGen 最大的价值在于降低了多智能体系统开发的门槛。你不需要深入理解复杂的分布式系统或Agent协议，只需要定义Agent的角色和行为，框架就会处理剩下的事情。对于想要快速原型验证AI Agent应用的开发者来说，AutoGen 是不可多得的利器。

    📥 下载地址

    🐍

    PyPI安装

    pip install pyautogen

    Microsoft AutoGen 正在重新定义AI Agent的开发方式。

    无论你是AI研究者、应用开发者，还是对企业自动化感兴趣的技术管理者，

    AutoGen 都值得你深入探索和实践。

    #Microsoft #AutoGen #AIAgent #多智能体 #开源项目


  • MetaGPT：59.4k Stars！多智能体协作框架，让AI组成软件公司

    MetaGPT：59.4k Stars！多智能体协作框架，让AI组成软件公司

    配图

    MetaGPT Logo

    MetaGPT – 多智能体协作框架

    项目简介

    MetaGPT 是一款创新的多智能体协作框架，核心理念为 Code = SOP(Team)。通过模拟真实软件公司的组织架构（产品经理、架构师、工程师、测试员等角色）与标准化作业流程（SOP），实现复杂任务的自动化协作处理。

    只需要输入一行自然语言需求，MetaGPT 就能自动生成产品需求文档（PRD）、技术设计方案、任务清单以及完整的代码实现。

    安装要求和过程

    环境要求

    • ✅ Python 版本：3.9+
    • ✅ 支持系统：macOS 13.x / Windows 11 / Ubuntu 22.04
    • ✅ 依赖管理：pip 或 Docker

    快速安装步骤

    方式一：稳定版安装（推荐）

    pip install metagpt

    方式二：最新开发版

    pip install git+https://github.com/geekan/MetaGPT

    方式三：Docker 部署

    docker pull metagpt/metagpt:latest
docker run --rm metagpt/metagpt:latest metagpt "Write a cli snake game"

    可选功能扩展

    功能模块 安装命令 用途说明
    RAG 检索增强 pip install 'metagpt[rag]' 结合向量存储的RAG系统
    OCR 文字识别 pip install 'metagpt[ocr]' 识别图像中的文本
    搜索引擎集成 pip install 'metagpt[search-ddg]' DuckDuckGo 搜索功能

    核心功能

    🏢 模拟软件公司架构

    预设产品经理、架构师、工程师、测试员等角色，每个角色拥有独立的 LLM 实例和专业化 Prompt，协同完成软件开发生命周期全流程。

    📋 SOP 标准化流程

    将工业标准化作业程序（SOP）嵌入智能体协作流程，确保输出质量可控、可预期。每个角色按既定规范输出交付物。

    📄 自动化文档生成

    自动生成产品需求文档（PRD）、技术设计文档、API 接口文档、测试用例等完整软件工程文档。

    💻 完整代码实现

    基于需求自动编写、审查、迭代代码，支持多种编程语言，输出可直接运行的完整代码仓库。

    📊 智能图表生成

    集成 Mermaid 图表引擎，自动生成流程图、时序图、类图、架构图等多种技术图表（支持 PNG/SVG/PDF 格式）。

    典型使用场景

    场景一：快速原型开发

    需求：创业者有一个 APP 想法，需要快速验证可行性并产出原型。

    使用方式：执行 metagpt "开发一个任务管理APP，支持多人协作"，自动输出完整的需求分析、UI 设计建议、技术选型和示例代码。

    场景二：竞品分析与调研

    需求：产品经理需要快速了解某个领域的主流产品功能特性。

    使用方式：MetaGPT 自动联网搜索、分析竞品、生成对比表格和策略建议，输出标准化竞品分析报告。

    场景三：教学与学习辅助

    需求：计算机专业学生学习软件工程流程，希望看到完整项目从需求到代码的实例。

    使用方式：输入课程设计题目，MetaGPT 展示标准软件工程全流程输出，帮助学生理解各阶段交付物的规范与要求。

    推荐理由

    为什么值得关注？

    💡 理念先进：将「标准化作业程序 SOP」与「多智能体协作」结合，让 AI 不再是单点工具，而是可协作的团队。

    🚀 落地性强：不同于纯学术的多智能体研究，MetaGPT 直接面向软件工程场景，输出的是真正可用的文档和代码。

    📚 社区活跃：GitHub 59.4k+ Stars，持续迭代更新，文档完善，有详细的中文教程和示例项目。

    🧩 扩展灵活：支持自定义角色、自定义 SOP、接入不同的 LLM（OpenAI/Claude/国内大模型均可）。

    个人认为，MetaGPT 最值得称道的地方在于它把「软件工程规范」变成了 AI 可执行的流程。对于需要快速验证想法、或希望了解标准软件研发流程的同学来说，这是一个不可多得的教学与实战工具。

    下载地址

    🔗 GitHub 仓库：https://github.com/FoundationAgents/MetaGPT

    🌐 官方文档：https://docs.deepwisdom.ai/

    💬 Discord 社区：https://discord.gg/veseZ39udK

    📦 PyPI 安装：pip install metagpt

    项目持续更新中，欢迎 Star 支持开发者 🩵

  • AutoGen – 微软开源的多智能体对话框架

    AutoGen – 微软开源的多智能体对话框架

    AutoGen Logo
    AutoGen – 多智能体AI协作框架

    📝 项目简介

    AutoGen 是微软研究院开源的事件驱动编程框架，专门用于构建可扩展的多智能体AI系统。它就像 AI Agent 世界的”交响乐团指挥”，让不同的 AI 智能体能够协同工作、互相对话，共同完成复杂的任务。无论你是想构建自动化的工作流程，还是研究多智能体协作，AutoGen 都能提供强大而灵活的解决方案。

    ⚙️ 安装要求和过程

    环境要求

    • Python 3.8 或更高版本
    • pip 包管理工具
    • （可选）Docker – 用于容器化代码执行
    • OpenAI API Key 或其他 LLM 服务访问权限

    快速安装步骤

    推荐使用 pip 安装指定版本，避免版本兼容问题：

    pip install autogen-agentchat~=0.2

    💡 提示：当前 0.2 版本稳定可用，0.4 稳定版也已发布，旧版本用户可参考迁移指南升级。

    💡 核心功能

    1. 低门槛构建多智能体对话应用

    AutoGen 大大简化了复杂 LLM 工作流的编排、自动化和优化。你只需要写少量代码，就能搭建起下一代 LLM 应用，同时最大化 LLM 的性能，弥补其固有缺陷。

    2. 支持多样化对话模式

    框架提供了可自定义、可对话的智能体，开发者可以自由调整对话自主性、智能体数量和对话拓扑结构。无论你需要确定性的工作流，还是动态的多智能体协作，都能找到合适的模式。

    3. 灵活的代码执行方式

    支持三种代码执行模式：无代码执行（纯文本对话）、本地命令行执行、Docker 容器执行。特别是 Docker 模式，可以在隔离环境中安全运行生成的代码，避免对本地环境造成污染。

    4. 全场景示例覆盖

    官方提供了不同复杂度、可直接运行的系统示例，覆盖多领域、多复杂度的应用场景。从简单的两智能体对话，到复杂的多专家联合决策系统，都有对应的参考实现。

    🎯 典型使用场景

    场景一：自动化数据分析与可视化

    假设你是一名分析师，需要快速分析两只股票（比如英伟达和特斯拉）年初至今的价格走势。使用 AutoGen，你可以让 UserProxyAgent 向 AssistantAgent 发起对话请求，AssistantAgent 会自动生成 Python 代码来获取股票数据、绘制图表，然后通过代码执行器运行代码，最终将生成的图表保存到文件。整个过程中，你不需要手动编写一行代码！

    场景二：多专家联合决策系统

    在复杂的业务场景中，单一 AI 可能难以做出全面准确的决策。使用 AutoGen，你可以创建多个具有不同专长的智能体（比如：数据分析师、行业专家、风险评估师），让它们通过对话协作，共同完成投资决策、医疗诊断、技术选型等复杂任务。每个智能体都可以调用不同的工具和 API，真正实现”三个臭皮匠，顶个诸葛亮”。

    场景三：AI Agent 研究与教学

    AutoGen 由微软研究院、宾夕法尼亚州立大学、华盛顿大学的合作研究支撑，是多智能体 AI 系统研究的理想平台。研究人员可以基于 AutoGen 快速验证新的对话模式、协作策略；教师可以用它制作生动的教学演示，让学生直观理解多智能体系统的工作原理。

    🌟 推荐理由

    为什么我强烈推荐 AutoGen？

    • 🏢 大厂背书，值得信赖：微软研究院主导开发，代码质量高，文档完善，社区活跃
    • 🚀 降低门槛，快速上手：相比 LangChain 等框架，AutoGen 的多智能体对话模式更直观，示例丰富，新手也能快速入门
    • 🛡️ 安全可控：支持 Docker 容器化执行代码，支持人工介入（human-in-the-loop），避免 AI 生成的危险代码直接运行
    • 🔧 高度灵活：可以自由定义智能体的行为、对话流程、工具调用，满足各种定制化需求
    • 📚 生态丰富：作为”智能体 AI 领域的 PyTorch”，AutoGen 正在成为多智能体系统的标准框架，未来潜力巨大

    我个人觉得，如果你对 AI Agent、多智能体系统、LLM 应用开发感兴趣，AutoGen 绝对是必学的框架之一。它不仅能帮你快速实现想法，还能让你深入理解多智能体协作的精髓。

    📥 下载地址

    本文介绍了 AutoGen 多智能体框架的核心特性和应用场景。如果你正在构建 AI Agent 系统，不妨试试这个强大的工具！