标签: MIT许可

  • PPT Master:AI 把文档一键变成真正可编辑的原生 PowerPoint

    PPT Master:AI 把文档一键变成真正可编辑的原生 PowerPoint

    PPT Master 示例:Global AI Capital 2026 数据新闻风 deck

    示例:用 PPT Master 一键生成的《Global AI Capital 2026》数据新闻风演示(Bloomberg 风格深色仪表盘,图表驱动)

    项目简介

    PPT Master 是 Hugo He 开源的一个 AI 工作流,它运行在任意具备 Agent 能力的 AI 工具(Claude / GPT / Gemini / Kimi 等)中,把你的文档或主题直接生成真正可在 PowerPoint 里继续编辑的原生演示文稿——不只是「可编辑」,而是拥有原生形状、图表、表格、母版与过渡动画的完整 PPT 对象模型。当前 GitHub 45.4K★、MIT 许可、Python 实现。

    安装要求与快速开始

    环境要求:只需手动安装 Python 3.10+(唯一需要的环境);一个具备 Agent 能力的 AI 工具(官方推荐 Claude Code,也可用 Cursor、Codex CLI、Gemini CLI 等);可选:AI 生图(如 gpt-image-2)与联网搜图所需的 API Key。数据全程本地,无订阅、无平台锁定。

    快速安装:

    git clone https://github.com/hugohe3/ppt-master.git
    cd ppt-master
    pip install -r requirements.txt

    在该目录下打开你的 AI Agent,把材料放进 projects/ 目录,对它说「用 projects/xxx.pdf 做个 PPT」即可。Windows 用户可参考官方《Windows 安装指南》,10 分钟从零到成片。模型推荐大上下文窗口的 Kimi K3 或 Claude,配合 gpt-image-2 生图质量最佳。

    核心功能

    • 原生 PowerPoint 对象模型:输出真正的 slide master、原生形状与连接器、文本框,点击任意元素都能当作原生 PPT 对象继续修改,而不是扁平图片或套模板。
    • 数据驱动的图表与表格:可导出为真实的 PowerPoint Chart / Table 对象,支持「编辑数据」与对象级控制,跨应用视觉一致。
    • 跑在任意 AI Agent 里:Claude、GPT、Gemini、Kimi 均可驱动,无平台锁定;免费开源,成本只有模型调用费。
    • 数据留在本地:除与大模型通信外,整条流水线都在本机运行。
    • 复用你的模板 + 旁白/动画:可填充现有 .pptx 保留原设计,支持演讲者备注转语音旁白,甚至生成自动讲解视频。

    PPT Master 核心亮点

    典型使用场景

    • 从资料直接出片:把一沓 PDF / DOCX / 网页丢进去,让 AI 先梳理论点结构再做视觉设计,输出包含数据图表的完整 deck。
    • 套用公司模板:把已有的品牌 .pptx 交给它,只填新内容、保留原设计,导出你选中的页面。
    • 给成片加旁白:对做好的 deck 追加原生过渡、动画与语音旁白,直接生成可自动播放讲解的演示。

    推荐理由

    作者 Hugo He 是一位金融从业者(CPA·CPV·咨询工程师),他做这个工具的初衷很朴素:市面上的「AI 做 PPT」大多把幻灯片拍扁成图片或硬套模板,二次编辑体验很差;他想要的是在 PowerPoint 里依然能改的原生成品。这与我的痛点高度一致——「可编辑」早已是标配,真正的分水岭是「原生深度」。PPT Master 的方向就是持续向 PowerPoint 本身收敛,一个版本一个版本补上更多原生能力。

    作为日常生产力工具,它最打动我的是三点:免费开源、数据本地、无平台锁定——你不必把资料上交某个云平台,就能把最枯燥的排版活交给 AI。建议搭配大上下文模型(Kimi K3 / Claude)+ gpt-image-2 生图,质量最好;便宜模型也能跑,只是留给你的润色活更多。它不是「许愿池」,但能替你卸掉大部分重复劳动。

    下载地址

  • aisuite:吴恩达开源的统一大模型调用库,一行代码切换 10+ 厂商

    aisuite:吴恩达开源的统一大模型调用库,一行代码切换 10+ 厂商

    aisuite 项目封面

    做 AI 应用的同学大概率都踩过同一个坑:今天想用 GPT-4o,明天想换 Claude,后天又想试试 Gemini,每换一家就得重写一整套 SDK 调用、参数映射、错误处理。吴恩达(Andrew Ng)团队开源的 aisuite,就是把这件事彻底变简单的那把钥匙——一套统一接口,调遍十余家大模型。

    项目简介

    aisuite 是一个轻量级 Python 库,提供两层能力:底层是跨厂商统一的 Chat Completions API,上层是带工具与 MCP 的 Agents API。它同时是桌面 AI 同事 OpenWorker 的底层基座。一句话概括:用一套 OpenAI 风格的接口,调用 OpenAI、Anthropic、Google 等所有主流大模型。

    安装要求和过程

    环境要求

    • Python 3.10 及以上
    • pip 包管理器
    • 对应厂商的 API Key(或本地运行 Ollama 免 Key)

    快速安装

    基础包(不含任何厂商 SDK):

    pip install aisuite

    按需安装指定厂商 SDK,或一次性装全:

    pip install 'aisuite[anthropic]'   # 仅 Anthropic SDK
    pip install 'aisuite[all]'         # 所有厂商 SDK

    配置 API Key(以环境变量为例):

    export OPENAI_API_KEY=sk-...
    export ANTHROPIC_API_KEY=sk-...

    一行调用示例——切换模型只改字符串:

    import aisuite as ai
    client = ai.Client()
    
    models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20240620"]
    messages = [
        {"role": "system", "content": "用海盗英语回答。"},
        {"role": "user", "content": "讲个笑话。"},
    ]
    for model in models:
        resp = client.chat.completions.create(
            model=model, messages=messages, temperature=0.75)
        print(resp.choices[0].message.content)

    核心功能

    aisuite 核心能力

    1. 统一 Chat Completions API:provider-agnostic 的 OpenAI 风格接口,模型名采用 <provider>:<model-name> 格式,aisuite 自动路由到正确的厂商与参数,切换模型只需改一个字符串。
    2. Agents API + Toolkits:把普通 Python 函数直接当工具,自动生成 schema、执行调用并回传结果;内置 files / git / shell 沙箱工具包;提供工具策略(审批、黑白名单)与状态持久化(内存 / 文件 / Postgres)。
    3. 原生 MCP 支持pip install 'aisuite[mcp]' 后,任意 MCP Server 的工具都能直接交给模型,无需胶水代码。
    4. 流式与异步stream=True 跨厂商统一分块输出,acreate 提供异步变体,工具调用同样可流式处理。
    5. 可扩展 Provider 适配器:按命名约定实现 <provider>_provider.py + <Provider>Provider 类即可被自动发现加载,轻松接入新厂商。

    支持的模型厂商

    aisuite 支持的模型厂商

    典型使用场景

    1. 多模型横向对比 / A/B 评测:同一段业务逻辑只改 model 字符串,就能对比 GPT-4o、Claude、Gemini 的输出质量与成本,非常适合做模型选型与回归测试。
    2. 本地优先 + 多云的 Agent 应用:aisuite 是 OpenWorker 的基座,可接入 Ollama 完全本地运行(数据不出本机),也能在云端多厂商间灵活切换,兼顾合规与弹性。
    3. 快速挂载 MCP 工具做文件 / 代码操作:一行声明 filesystem MCP,即可让模型列举目录、读写文件、执行 git 命令,省去繁琐的适配代码。

    推荐理由

    我个人非常看重 aisuite 解决的一个真实痛点:厂商锁定。在真实项目里,模型能力此消彼长,今天这家强、明天那家反超,aisuite 让你把”换模型”从”改一堆 SDK 代码”降级成”改一个字符串”,产品的可移植性直接拉满。

    它不只是简单的接口封装:Agents API 把工具调用、MCP、工具策略、状态持久化收敛到一套统一范式里,意味着你写一次 Agent,就能在多家模型间稳健落地;底层还能私有化(Ollama)满足数据合规需求。MIT 协议商用友好,对创业团队和个人开发者都很友好,强烈建议作为 AI 应用的默认底座。

    下载地址

    项目数据:★16.1K · 1.7K Fork · Python · MIT · 创建于 2024-06,最近更新 2026-07。

  • DwarfStar (ds4):antirez 打造的 DeepSeek V4 原生本地推理引擎

    DwarfStar (ds4):antirez 打造的 DeepSeek V4 原生本地推理引擎

    DwarfStar ds4

    📌 项目简介

    DwarfStar(简称 ds4)是 Redis 作者 antirez(Salvatore Sanfilippo)开源的一个原生本地推理引擎,专门为 DeepSeek V4 Flash / PROGLM 5.2 这类开源权重打造。它不追求做成通用 GGUF 运行器,而是把模型加载、分词、工具调用、KV 缓存、HTTP 服务乃至内置编码智能体垂直打通、一起调优;整个引擎用纯 C 编写、单文件二进制、零外部运行时依赖,在 Metal / CUDA / ROCm 三大后端上都能跑。

    DwarfStar 项目速览

    ⚙️ 安装要求和过程

    环境要求

    • 硬件后端:Apple Silicon(Metal,96 GB 以上内存最佳,小内存可走 SSD 流式加载);NVIDIA CUDA 显卡(含 DGX Spark / GB10 多卡);AMD ROCm(Strix Halo,如 Framework Desktop)。
    • 工具链:C 编译器(clang / gcc);CUDA 需 nvcc,ROCm 需 hipcc。仅依赖系统工具链,无外部运行时依赖
    • 模型权重:需单独从 Hugging Face(antirez/deepseek-v4-gguf)下载对应的 GGUF 文件,引擎不内置权重。

    快速安装

    # 克隆仓库
    git clone https://github.com/antirez/ds4
    cd ds4
    
    # macOS(默认 Metal 后端)
    make
    
    # NVIDIA CUDA:DGX Spark / GB10
    make cuda-spark
    # 或通用本地 CUDA 构建
    make cuda CUDA_ARCH=native
    
    # AMD ROCm(Strix Halo / Framework Desktop,gfx1151)
    make rocm
    
    # CPU 参考 / 调试路径(非生产用途)
    make cpu

    下载模型权重

    # 下载一个主模型(推荐 imatrix 版)
    ./download_model.sh ds4f-q2          # 96 / 128 GB 内存机器
    ./download_model.sh ds4f-q2-q4       # 末 6 层专家用 q4
    ./download_model.sh ds4f-q4          # ≥ 256 GB 内存
    ./download_model.sh ds4f-mxfp4       # 原生 MXFP4 专家,约 156 GB
    ./download_model.sh pro-q2-imatrix   # 512 GB 内存,PRO q2 imatrix 量化

    运行

    # 单条提示
    ./ds4 -p "用一段话解释 Redis Stream。"
    
    # 进入多轮交互式对话
    ./ds4
    ds4> /help
    
    # 启动 OpenAI / Anthropic 兼容的本地服务
    ./ds4-server --ctx 100000 --kv-disk-dir /tmp/ds4-kv --kv-disk-space-mb 8192

    ✨ 核心功能

    DwarfStar 核心能力

    1. 贴近模型的「专用」引擎:不为通用 GGUF 设计,模型加载 / 分词 / 工具调用 / KV 缓存 / HTTP 服务 / 编码智能体垂直打通,针对少数量身优化的开源权重做专项调优。
    2. 三大后端原生加速:Metal(主战场,Mac 96 GB+)、NVIDIA CUDA(含多卡 / DGX Spark)、ROCm(Strix Halo);内存不足的机器还能用 SSD 流式加载权重。
    3. 分布式推理:管道并行把多台机器的内存叠加起来跑更大的模型;基于 RDMA 的张量并行甚至能让两台 128 GB MacBook 合力运行 4-bit 的 DeepSeek Flash 或 GLM 5.2。
    4. 内置原生编码智能体:推理由智能体内部直接驱动、没有 socket / API 边界,会话本身就是磁盘上的 KV 缓存;工具调用走原生 LLM 格式,延迟极低、KV 永不错位,还能用 /save /switch 续上历史会话。
    5. OpenAI / Anthropic 兼容服务ds4-server 提供 /v1/chat/completions/v1/responses 等端点,支持多会话批处理与磁盘 KV 缓存,可完全私有化部署。

    DwarfStar 性能实测

    实测参考(q2 量化,意大利语长文本输入):MacBook Pro M5 Max(128 GB,Metal)在 2K 上下文下预填约 790 t/s、生成约 39 t/s;DGX Spark GB10 预填可达 826 t/s。128 GB 内存即可流畅跑 DeepSeek V4 Flash。

    🎯 典型使用场景

    DwarfStar 适用场景

    1. 个人高端 Mac / 工作站本地跑强模型:MacBook M5 Max、Mac Studio M3 Ultra、DGX Spark、Framework Desktop 用户,无需联网、隐私不出本机即可使用 DeepSeek V4 级别的大模型。
    2. 把闲置旧 CUDA 卡变成多用户服务器:借助 CUDA 多卡与 ds4-server 的微批处理,把不再被 vLLM 支持的旧 Ada 架构显卡(如 8×L40S)改造成公司内部的多用户 LLM 服务。
    3. 企业内网私有化部署:用 OpenAI 兼容端点 + 磁盘 KV 缓存,配合工具调用承载客服、知识库问答、本地编码助手等智能体,数据全程不出内网。

    💡 推荐理由

    作为 Redis 作者的最新作品,ds4 最打动我的是它的「克制与专注」:它坦然承认自己不是万能的通用推理器,而是把一件事做到极致——让 DeepSeek V4 这类前沿开源权重在消费级 / 工作站级硬件上跑得又快又稳。对一个 C 写的单文件引擎来说,开箱即用的交互式 CLI、兼容 OpenAI 的服务端、甚至原生编码智能体全部到位,体验相当完整。

    特别加分的是项目的坦诚:antirez 在 README 里明确做了「AI 全程披露」,说明代码大量借助 GPT / Claude 完成、但由人类把握方向与测试,同时也郑重致谢 llama.cpp 与 GGML——这种开源精神值得点赞。需要提醒的是,项目目前仍处快速迭代的 beta 阶段、文档也在持续补全,适合愿意折腾、想把手里高端硬件榨干的朋友尝鲜。

    🔗 下载地址

  • DeepSeek-Reasonix:围绕前缀缓存稳定性打造的 DeepSeek 原生终端 AI 编程智能体

    DeepSeek-Reasonix:围绕前缀缓存稳定性打造的 DeepSeek 原生终端 AI 编程智能体

    DeepSeek-Reasonix 核心亮点

    DeepSeek-Reasonix(npm 包名 reasonix)是一个深度围绕 DeepSeek 前缀缓存稳定性打造的开源终端 AI 编程智能体:把 Agent 跑成长会话也不心疼 token,单文件 Go 二进制即装即用。

    📊 项目速览

    • ⭐ Stars:30.6K | Fork:1.97K | 语言:Go | 协议:MIT | 首个版本:2026-04
    • 🏷️ 定位:终端 / TUI / 桌面 / VS Code 四端共用同一本地引擎的 Coding Agent
    • 🔗 官网:https://reasonix.io/

    🔧 安装要求与过程

    环境要求

    • 支持 macOS / Linux / Windows(amd64 与 arm64)
    • 方式 A 需 Node.js(用于 npm)或 macOS 上的 Homebrew;方式 D 源码编译需 Go 工具链
    • 一个 DeepSeek(或任意 OpenAI 兼容)API Key,通过 reasonix setup 配置

    快速安装(推荐 CLI / TUI)

    # 任意系统,拉取预编译原生二进制
    npm i -g reasonix
    
    # 或 macOS 用 Homebrew
    brew install esengine/reasonix/reasonix

    其他安装方式:① 桌面端 到官网下载页取 .dmg/.exe/.deb/.tar.gz;② VS Code 扩展 在 Marketplace 搜 SivanLiu.reasonix-agent;③ 源码编译

    git clone https://github.com/esengine/DeepSeek-Reasonix.git
    cd DeepSeek-Reasonix
    make build      # -> bin/reasonix
    make cross      # -> dist/ (darwin|linux|windows x amd64|arm64)

    三步上手

    reasonix setup                      # 配置 provider 与模型
    reasonix                            # 启动交互式会话
    reasonix run "implement the TODOs in main.go"   # 一次性跑任务

    交互会话里执行 /init 可让 Reasonix 自动生成项目说明文件。

    ✨ 核心功能

    1. 配置驱动:Provider、Agent、启用的工具与插件全部声明在 reasonix.toml,没有任何硬编码模型,换模型只是改一行配置。
    2. 多模型可组合:DeepSeek 是预置项;任意 OpenAI 兼容端点都是一条配置而非新代码;还可让两个模型(执行器 + 规划器)在各自缓存稳定的会话里协同工作。
    3. 插件驱动:外部工具以子进程方式经 stdio JSON-RPC 运行(兼容 MCP 协议);内置工具在编译期自注册,扩展能力零摩擦。
    4. 缓存感知的上下文维护:启动时注入一份稳定的环境摘要,压缩摘要前先裁剪陈旧的工具输出,让长会话的前缀缓存命中率保持高位、token 成本维持低位。
    5. 零摩擦分发CGO_ENABLED=0 产出单文件静态二进制,一条命令交叉编译到 6 个平台目标,唯一的外部依赖只是一个 TOML 解析器。

    🎯 典型使用场景

    • 长会话大型重构:把 Reasonix 一直开着,前缀缓存让「边聊边改」一整天也花不了多少 token;适合跨多文件的模块重构与迁移。
    • 双模型协作攻坚:用 DeepSeek 当执行器、再挂一个规划器模型,分别在缓存稳定的会话里做「想」与「做」的分工,复杂任务更稳。
    • 纯终端原生工作流:无需 IDE,命令行直接驱动;需要时也能借 VS Code 扩展获得编辑器上下文、工具调用审批与模型切换。

    💡 推荐理由

    我比较看重它三点:一是真的为 DeepSeek 优化过——前缀缓存稳定性不是口头标语,长会话成本明显比通用 Agent 低;二是单文件二进制零运行时依赖,在公司受限环境或远程机器上一拷就能跑,比一堆 Node/Python 依赖的 Agent 省心;三是配置与插件都走开放协议(TOML + MCP 兼容),不锁死模型,想接哪个 OpenAI 兼容端点都行。要说短板,项目 2026 年 4 月才起步,生态与社区体量还比不上 Claude Code / Cursor 那类老牌选手,但长势很猛(上线数月已 30K+ Star)。如果你常驻终端、又想用便宜强推理的 DeepSeek 干活,它值得一试。

    📥 下载地址

  • TRELLIS.2:微软开源 4B 参数图像到 3D 生成模型,3 秒生成高保真纹理资产

    TRELLIS.2:微软开源 4B 参数图像到 3D 生成模型,3 秒生成高保真纹理资产

    TRELLIS.2

    项目简介

    TRELLIS.2 是微软研究院开源的 4B 参数大规模 3D 生成模型,专注于图像到 3D(image-to-3D)资产生成。它抛弃了传统等值面场的限制,提出一种名为 O-Voxel 的“无场”稀疏体素结构,能够原生重建和生成具有复杂拓扑、锐利细节以及完整 PBR 材质的 3D 模型。

    安装要求和过程

    目前官方仅验证过 Linux 环境,GPU 显存至少 24GB(推荐 A100 / H100),需要 CUDA 12.4 和 Conda。

    1. 克隆仓库:
      git clone -b main https://github.com/microsoft/TRELLIS.2.git --recursive
      cd TRELLIS.2
    2. 创建 conda 环境并安装依赖:
      . ./setup.sh --new-env --basic --flash-attn --nvdiffrast --nvdiffrec --cumesh --o-voxel --flexgemm
    3. 从 Hugging Face 下载 4B 预训练权重:
      https://huggingface.co/microsoft/TRELLIS.2-4B

    核心功能

    • 高保真生成:40 亿参数 DiT 模型 + 16× 下采样稀疏 3D VAE,可直接生成 512³ 到 1536³ 分辨率的带纹理 3D 资产。
    • O-Voxel 拓扑自由:原生支持开放曲面、非流形几何和内部封闭结构,无需像传统 NeRF/SDF 那样进行有损转换。
    • PBR 材质建模:不仅生成基础色,还输出 Roughness、Metallic、Opacity 等属性,支持透明与真实感渲染。
    • 极简后处理:纹理网格转 O-Voxel 单 CPU <10 秒,O-Voxel 转纹理网格在 CUDA 上 <100 毫秒。
    • 完整训练代码:开源 SC-VAE、形状/纹理 Flow Model 训练脚本,可用 Objaverse-XL 等数据从头训练或微调。

    TRELLIS.2 核心特性

    典型使用场景

    • 游戏/影视资产快速出稿:原画师只需提供一张概念图,即可在数秒内获得带 PBR 材质的可用 3D 模型,大幅缩短原型迭代周期。
    • 电商/虚拟展示:把产品照片自动转换为可旋转的 GLB 3D 资产,用于网页 AR、虚拟展厅和商品详情页。
    • 3D 内容创作者工具链:结合 ComfyUI、Blender 等工具,将 TRELLIS.2 作为 AI 建模节点,批量生成风格化道具和场景元素。

    推荐理由

    TRELLIS.2 给我的最大惊喜是“快”和“全”:快在 H100 上 3 秒就能跑出 512³ 的高质量模型;全在从模型权重到训练代码全部开源,还配有 Hugging Face Demo。相比之前很多只能生成封闭几何体的方案,它对开放曲面、衣物、叶片等复杂拓扑的处理明显更稳。对于想要在本地做 3D AIGC 的同学来说,这是目前最值得入手的工程基座之一。

    下载地址

  • OpenWiki —— LangChain 出品的自我维护 Wiki CLI,让 Agent 为你写文档

    OpenWiki —— LangChain 出品的自我维护 Wiki CLI,让 Agent 为你写文档

    项目简介

    OpenWikiLangChain 团队开源的「自我维护 Wiki CLI」——一个命令行工具,让 AI Agent 自动为你的代码库或个人知识库撰写并持续维护 Markdown 文档。它内置 Deep Agents 文档智能体,读取源码后合成带链接的 Wiki,每次代码变更都能自动更新;同时提供交互式可视化节点图,让你像浏览思维导图一样探索整个知识体系。

    一句话总结:「为 Agent 写的文档,给人读的 Wiki。」

    OpenWiki
    OpenWiki — 自我维护的 Wiki

    安装要求与快速上手

    环境要求

    • Node.js ≥ 18(推荐 LTS 版本)
    • npm / pnpm 包管理器
    • 任一 LLM 提供商 API Key(首次运行时引导配置)

    安装步骤

    # 全局安装 CLI
    npm install -g openwiki
    
    # 初始化代码库文档(交互式选择模型提供商)
    openwiki --init
    
    # 一键更新文档
    openwiki --update
    
    # 启动可视化浏览器
    openwiki visualize

    个人知识库模式

    # 初始化个人大脑模式
    openwiki personal --init
    
    # 认证数据源连接器
    openwiki auth notion      # Notion OAuth
    openwiki auth gmail       # Gmail OAuth
    openwiki auth x           # X/Twitter OAuth
    
    # 执行全量数据摄取并生成 Wiki
    openwiki ingest all

    核心功能

    OpenWiki 核心速览

    1. Agent 驱动的自动文档生成

    基于 LangChain Deep Agents 框架的文档专用智能体,自动分析源码结构、模块依赖、函数签名和业务逻辑,生成结构化 Markdown 文档。支持 .openwikiignore 规则排除敏感路径(类似 .gitignore),确保私有信息不泄露。

    2. 双模式:Code Wiki + Personal Brain

    • Code 模式(默认):扫描当前仓库,输出到 openwiki/ 目录,同时维护根目录的 AGENTS.mdCLAUDE.md 引导文件。
    • Personal 模式:接入 Notion、Gmail、X/Twitter、Hacker News、Web Search 等数据源,将碎片化知识合成为本地 Wiki(存储在 ~/.openwiki/wiki/)。

    3. 12+ 模型提供商开箱即用

    默认 OpenAI(gpt-5.6-terra),同时支持 Anthropic Claude、Google Gemini、AWS Bedrock、GitHub Copilot、OpenRouter、Nebius/Fireworks/Baseten/NVIDIA NIM,以及任何 OpenAI 兼容端点(Ollama、LM Studio、LiteLLM 网关等)。Copilot 用户可直接复用现有订阅,无需额外购买 API Key。

    4. 交互式可视化浏览器

    运行 openwiki visualize 即可启动本地 Web 服务,将 Wiki 渲染为交互式节点图 + 实时 Markdown 阅读器。左侧树形目录导航,右侧图谱展示概念关系,点击节点即时查看内容。编辑文件后自动热重载。

    OpenWiki 可视化界面

    5. CI/CD 自动文档流水线

    通过 GitHub Actions / GitLab CI / Bitbucket Pipelines 定时触发文档更新,每次提交自动生成 Docs PR。零成本无变更运行——OpenWiki 会快照对比,只有实际变化才记录元数据,避免 CI 积分浪费。

    6. OKF 开放知识格式 & Mermaid 图表

    输出符合 Google Open Knowledge Format (OKF) v0.1 标准,可移植到任何 OKF 兼容工具。自动在合适位置插入 Mermaid 图表(序列图、ER 图、状态机、流程图),且每次更新都验证图表有效性,损坏的图表会降级为纯文本并在下次修复。

    典型使用场景

    场景一:大型项目新人 Onboarding

    一个拥有 200+ 微服务的后端仓库,新工程师通常需要两周才能理清架构。部署 OpenWiki 后,CI 在每次合并主分支时自动更新架构文档、模块关系图和 API 速查表。新人 clone 下来后 openwiki visualize 一眼看到全局,配合 AGENTS.md 让 AI 编码助手也能精准理解上下文。

    场景二:个人知识中台

    技术负责人的知识散落在 Notion 笔记、Gmail 重要邮件、Twitter 收藏的技术讨论和 HN 热帖中。OpenWiki Personal 模式一次性接入所有源,定期 ingest all 同步,自动去重、关联、归纳成带链接的知识网络。需要回忆某个技术决策时,可视化图中一眼定位。

    场景三:Agent 记忆层

    团队使用 Claude Code 或 Codex 做日常开发,但 Agent 的上下文窗口有限,无法容纳整个代码库历史。OpenWiki 生成的 AGENTS.md 作为持久记忆层,每次 Agent 启动时自动加载 Wiki 摘要,理解架构后再动手写代码,减少幻觉和无效重构。

    推荐理由

    作为 LangChain 官方出品,OpenWiki 解决了一个非常实际的问题:文档总是过时。传统方案要么靠人肉维护(没人愿意做),要么用静态文档生成器(只管骨架不管灵魂)。OpenWiki 的思路很聪明——把「写文档」这件事交给最懂代码的 Agent,同时保留人类对文档的所有权(纯 Markdown,版本控制)。

    我个人最喜欢的三个设计:
    Copilot 复用——如果你已经有 GitHub Copilot 订阅,直接拿来跑推理,不用再掏钱买 API Key;
    .openwikiignore——安全意识很好,从根源上防止密钥泄露进文档;
    可视化节点图——不是花哨功能,对于理解陌生代码库真的有用,比翻几十个 README 快十倍。

    13K+ Stars、日增上千的趋势也说明社区对这个方向的认可。如果你正在维护一个中等规模以上的项目,或者想让 AI 编程助手更懂你的代码库,OpenWiki 值得一试。

    下载地址

  • GitHub Copilot SDK:一套 Agent 运行时,六种语言官方 SDK

    GitHub Copilot SDK:一套 Agent 运行时,六种语言官方 SDK

    GitHub Copilot SDK

    项目简介

    GitHub Copilot SDK 是 GitHub 官方发布的多平台 Agent 运行时 SDK,让你在自己的应用中嵌入 Copilot CLI 的完整智能体引擎。支持 TypeScript、Python、Go、.NET(C#)、Java、Rust 六种语言,通过 JSON-RPC 与 Copilot CLI server 模式通信,SDK 自动管理进程生命周期——你只需定义 Agent 行为,Copilot 负责规划、工具调用和文件编辑。

    一句话:把 Copilot CLI 的 Agent 能力,以 SDK 形式嵌入任何应用。

    六语言SDK速览

    安装要求与过程

    环境要求

    • Node.js / TypeScript:Node.js ^20.19.0 或 ≥22.12.0
    • Python:Python 3.11+
    • .NET:.NET 8+ SDK
    • Go / Rust / Java:对应语言工具链 + 需额外安装 Copilot CLI
    • 认证:GitHub Copilot 订阅,或 BYOK 自带模型 API Key

    快速安装

    # Node.js / TypeScript
    npm install @github/copilot-sdk
    
    # Python
    pip install github-copilot-sdk
    python -m copilot download-runtime   # 下载运行时二进制
    
    # .NET
    dotnet add package GitHub.Copilot.SDK
    
    # Go
    go get github.com/github/copilot-sdk/go
    
    # Rust
    cargo add github-copilot-sdk
    
    # Java (Maven)
    <dependency>
      <groupId>com.github</groupId>
      <artifactId>copilot-sdk-java</artifactId>
    </dependency>

    Python 快速上手示例

    import asyncio
    from copilot import CopilotClient
    from copilot.session_events import AssistantMessageData, SessionIdleData
    from copilot.session import PermissionHandler
    
    async def main():
        async with CopilotClient() as client:
            async with await client.create_session(
                on_permission_request=PermissionHandler.approve_all,
                model="gpt-5",
            ) as session:
                done = asyncio.Event()
                def on_event(event):
                    match event.data:
                        case AssistantMessageData() as data:
                            print(data.content)
                        case SessionIdleData():
                            done.set()
                session.on(on_event)
                await session.send("What is 2+2?")
                await done.wait()
    
    asyncio.run(main())

    核心功能

    1. 六语言官方 SDK:TypeScript/Python/Go/.NET/Java/Rust 全部由 GitHub 官方维护,统一 API 设计,语义化版本管理(GA 状态)。
    2. Agent Loop 完整循环:内置完整的工具调用循环(Tool Use Loop),自动处理回合(Turn)与完成信号,无需自建编排层。
    3. Hooks 拦截机制:可在工具调用前后拦截、改写结果、处理错误——实现权限控制、日志审计、输出过滤等中间件逻辑。
    4. Custom Agents + Fleet Mode:定义带独立工具集和指令的子智能体;Fleet Mode 支持并行派发多个子智能体处理大型独立任务流。
    5. MCP Servers 集成:原生接入 Model Context Protocol 服务器,扩展外部工具能力;同时支持 Skills 提示词模块与 Plugin Directories 插件打包。
    6. 40+ Streaming Events:实时订阅会话事件流(assistant.message、tool.call、session.idle 等),构建响应式 UI。
    架构与核心能力

    典型使用场景

    场景一:IDE 插件内嵌 AI 编程助手

    在 VS Code / JetBrains 插件中集成 Copilot Agent,用户选中代码后调用 SDK 发起对话,Agent 自动读取文件上下文、执行重构建议、直接编辑文件。相比自己对接 LLM API + 构建工具链,SDK 已封装好文件读写、终端命令、Git 操作等全套工具。

    场景二:CI/CD 流水线中的自动化 Review Bot

    在 GitHub Actions 中用 Python SDK 启动 Copilot Session,将 PR diff 作为输入发送给 Agent,让它分析变更影响、生成 review 评论。通过 Hooks 可限制 Agent 只读不写,确保安全可控。

    场景三:SaaS 产品中的 AI 功能模块

    在 Web 后端通过 TypeScript SDK 创建带预算限制的 Session(Session Limits),为每个用户分配 AI Credits 配额。结合 Remote Sessions 功能,让用户在浏览器中实时看到 Agent 工作过程。BYOK 模式下可使用自有模型 Key,降低运营成本。

    推荐理由

    作为 GitHub 官方出品,Copilot SDK 的最大优势是「不用重复造轮子」。过去要在应用里嵌入 AI Agent 能力,你需要自己处理模型选择、提示词模板、工具定义、权限控制、错误恢复……现在这些全部由 Copilot CLI 引擎托管,SDK 只暴露简洁的 Session API。

    六种语言的覆盖面也令人印象深刻——从脚本到企业级后端,从前端到系统编程,几乎覆盖了主流开发栈。特别是 Python 和 TypeScript SDK 内置了 CLI 二进制,开箱即用体验非常顺滑。

    当然,它需要 Copilot 订阅或 BYOK 配置,不是完全免费的方案。但考虑到它提供的生产级 Agent 运行时能力,这个成本是合理的。如果你正在评估「如何在产品中加入 AI Agent 能力」,Copilot SDK 值得作为首选方案之一认真试用。

    下载地址

  • Pi Agent Harness:81K Star 的极简终端 AI 编程智能体,四个工具 + 无限扩展

    Pi Agent Harness:81K Star 的极简终端 AI 编程智能体,四个工具 + 无限扩展

    Pi 交互模式:顶部启动信息、消息区、编辑器与状态栏一目了然
    Pi 交互模式:顶部启动信息、消息区、编辑器与状态栏一目了然

    Pi(Pi Agent Harness)libGDX 作者 Mario Zechner(badlogic)团队 earendil-works 开源的极简终端 AI 编程智能体框架:核心只给模型 read / write / edit / bash 四个工具,其余能力全部交给你用 TypeScript 扩展、技能、提示词模板与主题自行拼装。上线不到一年拿下 81,000+ Stars、10,000+ Fork、248 位贡献者,MIT 许可,最新版本 v0.83.0。

    一、项目简介

    一句话:Pi 是一个「你来定义工作流」的开源终端编程智能体 —— 不预设子智能体、不预设计划模式、不内置 MCP,任何你想要的能力都能用一段 TypeScript 扩展装上去,还能打包成 npm 包分享给别人。

    它同时也是一套可复用的智能体开发工具箱,仓库内含四个独立 npm 包:

    • @earendil-works/pi-coding-agent —— 交互式编程智能体 CLI(终端里直接用的那个 pi
    • @earendil-works/pi-agent-core —— 智能体运行时,负责工具调用与状态管理
    • @earendil-works/pi-ai —— 统一多厂商大模型 API(OpenAI / Anthropic / Google 等)
    • @earendil-works/pi-tui —— 带差分渲染的终端 UI 库

    也就是说:你既可以把它当 Claude Code / Codex CLI 的替代品直接用,也可以只取其中一层,去写自己的智能体产品。

    二、安装要求和过程

    环境要求

    • Node.js(npm 全局安装方式)或直接用官方安装脚本下载独立二进制
    • 操作系统:macOS / Linux / Windows 均支持,另有 Termux(Android)与 tmux 专门文档
    • 模型凭据:任一支持的订阅(Claude Pro/Max、ChatGPT Plus/Pro、GitHub Copilot)或 API Key

    快速安装

    # 方式一:npm 全局安装(官方推荐加 --ignore-scripts)
    npm install -g --ignore-scripts @earendil-works/pi-coding-agent
    
    # 方式二:安装脚本(独立二进制)
    curl -fsSL https://pi.dev/install.sh | sh
    

    认证与启动

    # 用 API Key
    export ANTHROPIC_API_KEY=sk-ant-...
    pi
    
    # 或复用已有订阅:启动后输入 /login 选择服务商
    pi
    /login
    

    常用会话参数:

    pi -c              # 继续最近一次会话
    pi -r              # 浏览并选择历史会话
    pi --no-session    # 临时模式,不落盘
    pi -p "修复这个测试"  # 一次性打印模式(可配 --mode json)
    

    安装第三方能力包同样一条命令:pi install npm:@foo/pi-toolspi install git:github.com/user/repo@v1

    三、核心功能

    1. 四个内置工具 + 无限扩展的极简内核

    默认只有 readwriteeditbash。子智能体、计划模式、权限弹窗、待办列表这些别家标配的功能,Pi 一律不内置,而是让你通过扩展实现或安装现成的 Pi Package。作者的理由很直接:这些机制各家做法不同,硬塞进内核只会限制用户。

    2. TypeScript 扩展系统:连 Doom 都能跑

    export default function (pi: ExtensionAPI) {
      pi.registerTool({ name: "deploy", ... });
      pi.registerCommand("stats", { ... });
      pi.on("tool_call", async (event, ctx) => { ... });
    }
    

    扩展可以注册自定义工具(甚至替换内置工具)、自定义命令与快捷键、状态栏 / 页眉 / 页脚 / 浮层 UI、Git 自动提交检查点、SSH 与沙箱执行、权限门禁、自定义压缩策略、MCP 接入……官方示例里甚至有一个「等模型响应时玩 Doom」的扩展。

    3. 会话树:分支、回溯、克隆一个文件搞定

    Pi 的 /tree 会话树视图:任意节点回溯与分支切换
    Pi 的 /tree 会话树视图:任意节点回溯与分支切换

    会话以 JSONL 树结构存储,每条记录带 idparentId/tree 可跳回任意历史节点继续对话并在分支间切换,/fork 从某条用户消息派生新会话,/clone 复制当前分支,全部历史保留在同一个文件里。上下文快满时自动压缩(可手动 /compact 并给定压缩指令),压缩是有损的,但原始记录仍在 JSONL 中随时可回看。

    4. 30+ 模型服务商,含订阅登录与本地 llama.cpp

    订阅方式支持 Anthropic Claude Pro/Max、OpenAI ChatGPT Plus/Pro(Codex)、GitHub Copilot;API Key 方式覆盖 Anthropic、OpenAI、Azure OpenAI、DeepSeek、Google Gemini/Vertex、Amazon Bedrock、Mistral、Groq、Cerebras、xAI、OpenRouter、Vercel AI Gateway、智谱 ZAI Coding Plan(含中国区)、Kimi For Coding、MiniMax、小米 MiMo(含中国区/阿姆斯特丹/新加坡节点)、Hugging Face、Fireworks、Together AI、NVIDIA NIM、Cloudflare 等。还能通过 /login llama.cpp 接入本地 llama.cpp 路由服务器,用 /llama 直接下载和加载本地模型。

    5. 四种运行形态:交互 / 打印 / RPC / SDK

    除了终端交互,Pi 支持 -p 打印模式与 --mode json 结构化输出、--mode rpc(stdin/stdout 上的 JSONL 协议,方便非 Node 语言集成),以及直接以 SDK 方式嵌入自家应用:

    import { createAgentSession, ModelRuntime, SessionManager } from "@earendil-works/pi-coding-agent";
    
    const modelRuntime = await ModelRuntime.create();
    const { session } = await createAgentSession({
      sessionManager: SessionManager.inMemory(),
      modelRuntime,
    });
    await session.prompt("What files are in the current directory?");
    

    6. 供应链与项目信任双重加固

    直接依赖全部锁定精确版本、min-release-age=2 拒绝当天新发布的依赖、发布包内附 npm-shrinkwrap.json、CI 使用 npm ci --ignore-scripts 并定期跑 npm audit signatures。运行侧则有「项目信任」机制:首次进入含项目级配置或 .agents/skills 的目录会先询问,未信任前只加载上下文文件与用户级扩展。

    官方扩展示例:等待模型响应时在终端里跑 Doom
    官方扩展示例:等待模型响应时在终端里跑 Doom

    四、典型使用场景

    场景 1:把智能体改造成完全贴合自家流程的样子

    团队要求「每次改完代码自动跑 lint 并生成 checkpoint 提交」「部署只允许走内部 CLI」「敏感目录禁止写入」。在别的工具里这些要么等官方支持、要么 fork 源码;在 Pi 里就是三个扩展:一个 tool_call 事件钩子做路径门禁,一个注册 deploy 工具,一个在每轮结束时自动 git commit。写完丢进 .pi/extensions/ 全组共享,或打成 npm 包发出去。

    场景 2:低成本 / 国产模型 + 本地模型的日常编码

    /model(Ctrl+L)在 DeepSeek、Kimi For Coding、小米 MiMo、智谱 ZAI、MiniMax 之间随时切换,重活切 Claude / GPT,日常问答切便宜模型或 /llama 加载的本地模型;Ctrl+P 在自己圈定的「常用模型」间循环。底部状态栏实时显示输入/输出/缓存读写 Token、缓存命中率与累计花费,成本一目了然。

    场景 3:把编程智能体嵌进自己的产品或 CI

    pi-agent-core + pi-ai 做后端智能体服务,前端接 --mode rpc 或 SDK;CI 里用 pi -p --mode json 跑「自动修复失败测试」「批量迁移 API」这类任务,输出 JSON 直接被流水线消费。会话以 JSONL 存档,出问题时用 /tree 复盘整条决策链,还能 /export 成 HTML 或 /share 成私密 Gist 给同事看。

    五、推荐理由

    最近半年冒出来的 Coding Agent 多到看不过来,Pi 的差异化非常清晰:它把「克制」当成了产品特性。README 里那段 Philosophy 值得所有做 Agent 的人读一遍 —— 不做 MCP(写带 README 的 CLI 工具就够了)、不做子智能体(用 tmux 开多个 pi 实例)、不做权限弹窗(进容器)、不做内置待办(「它们会让模型犯迷糊」)。这些取舍未必人人认同,但每一条都给了替代路径,而不是简单的「不支持」。

    实际用下来最爽的两点:一是会话树,改坏了直接 /tree 回到三十轮之前换个思路继续,不用新开会话重讲一遍背景;二是扩展的门槛真的低,一个默认导出函数就是一个扩展,热重载 /reload 立刻生效,写工具的体验接近写普通 TypeScript 模块。加上原生支持 Kimi、MiMo、DeepSeek、智谱等国内可用的服务商,中文开发者上手成本很低。

    要注意的是:Pi 没有内置权限系统,默认以启动它的用户权限运行,官方明确建议放进容器或沙箱(文档给了 Gondolin 微虚机、Docker、OpenShell 三种方案);Pi Package 会执行任意代码,安装第三方包前务必看源码。另外仓库对新贡献者的 Issue/PR 默认自动关闭(维护者每天人工复核),提问前先读 CONTRIBUTING.md。

    六、下载地址

    项目数据(截至 2026 年 7 月 31 日):81,086 Stars · 10,008 Forks · 248 位贡献者 · TypeScript · MIT 许可 · 最新版本 v0.83.0 · 仓库仍在每日更新。

  • Voicebox:47.5K Stars 的开源 AI 语音工作室,克隆声音、全局听写、让 AI 智能体开口说话

    Voicebox:47.5K Stars 的开源 AI 语音工作室,克隆声音、全局听写、让 AI 智能体开口说话

    Voicebox 应用界面截图

    项目简介

    Voicebox 是一款本地优先的开源 AI 语音工作室——相当于把 ElevenLabs(语音合成)+ WisprFlow(语音听写) 两大云服务装进同一个免费开源的桌面应用:几秒参考音频即可克隆任意声音、7 大 TTS 引擎覆盖 23 种语言、全局热键把语音听写进系统任意输入框,还能通过 MCP 让 Claude Code / Cursor 等 AI 智能体用你克隆的声音「开口说话」。全部模型与数据均在本机运行,目前已收获 47.5K Stars,MIT 许可。

    安装要求和过程

    环境要求

    • macOS:Apple Silicon(MLX/Metal 加速)或 Intel
    • Windows:支持 NVIDIA CUDA 加速
    • Linux:暂无预编译包,需源码构建;另支持 AMD ROCm、Intel Arc
    • Docker:任意平台一行命令部署
    • 轻量引擎 LuxTTS 仅需 ~1GB 显存,CPU 也能 150 倍实时速度推理

    快速安装

    # 方式一:直接下载安装包(推荐)
    # macOS (Apple Silicon): https://voicebox.sh/download/mac-arm
    # macOS (Intel):         https://voicebox.sh/download/mac-intel
    # Windows (MSI):         https://voicebox.sh/download/windows
    
    # 方式二:Docker 一键启动
    git clone https://github.com/jamiepine/voicebox.git
    cd voicebox
    docker compose up
    

    首次启动时应用会引导下载所需模型;macOS 上还有权限向导,一步步带你完成「辅助功能」「输入监控」授权,用于全局听写自动粘贴。

    核心功能

    • 多引擎语音克隆:内置 Qwen3-TTS、Qwen CustomVoice、LuxTTS、Chatterbox Multilingual/Turbo、HumeAI TADA、Kokoro 共 7 大 TTS 引擎,零样本克隆 + 50 多个精选预置声音,覆盖 23 种语言,可逐次生成切换引擎。
    • 全局语音听写:按住热键在系统任意位置说话,松开即把转写文本粘贴进当前输入框(macOS 经辅助功能校验注入,且自动保存/恢复剪贴板);内置 Whisper 全系列模型(Turbo 版比 Large 快约 8 倍),可选本地 LLM 自动清理「嗯、啊」等口头语。
    • 给 AI 智能体一个声音:自带 MCP 服务器与 REST API,Claude Code、Cursor、Cline 等任意支持 MCP 的智能体只需调用 voicebox.speak 工具,就能用你克隆的声音向你「汇报工作」。
    • 专业级生产能力:不限长度生成(自动分句 + 交叉淡化拼接,最长 5 万字符)、多轨 Stories 时间线编辑器(做播客/对话/有声书)、8 种后期效果(变调/混响/延迟/压缩等,基于 Spotify pedalboard),生成版本全程可溯源。
    • 完全本地、隐私优先:模型、声音数据、录音捕获全部留在本机,永不上传;应用基于 Tauri(Rust)构建而非 Electron,原生性能,安装包小、内存占用低。

    典型使用场景

    1. 内容创作者做配音/播客:用自己的几秒录音克隆声音,把文章、剧本、章节直接批量转成音频;Stories 编辑器多轨拖拽即可编排双人对话播客,再叠加混响、电台音效等预设,全流程零云端费用。
    2. 开发者的「会说话的」编码智能体:给 Claude Code / Cursor 接上 Voicebox 的 MCP 服务器,长任务跑完后智能体用你指定的声音口头播报结果;配合全局听写热键,动口不动手地写 prompt,形成完整的语音 I/O 闭环。
    3. 注重隐私的日常语音输入:会议纪要、日记、即时消息全部用本地 Whisper 听写,敏感内容不经过任何第三方服务器;Captures 标签页保留每段原始音频 + 转写文本,可随时重转写、改写或升级为克隆样本。

    推荐理由

    试用下来最打动我的是「输入 + 输出一体」的产品思路:市面上克隆声音要买 ElevenLabs,语音听写要买 WisprFlow,而 Voicebox 把两半闭环装进一个 MIT 开源应用,还用本地 LLM 把两端串了起来。工程质量也远超一般开源项目——Tauri 原生应用不卡顿,生成队列异步不阻塞,甚至连 macOS 剪贴板保护、崩溃恢复这类细节都做了。对开发者来说,一行 MCP 配置就能让编码智能体开口说话,这个体验相当新奇实用。如果你需要一套不上云、不订阅的完整语音方案,这个项目值得马上装上试试。

    下载地址

  • Unlimited OCR:百度开源的「一次前向通读整本 PDF」的 OCR 大模型

    Unlimited OCR:百度开源的「一次前向通读整本 PDF」的 OCR 大模型

    项目简介

    Unlimited OCR 是百度开源的一款端到端 OCR 大模型,主打「One-shot Long-horizon Parsing」——在单次前向传播中,直接解析长达 32K token 的整份 PDF 或连续多页图像,而不是把文档切碎后一页页跑。

    它以 DeepSeek-OCR 的编码器为基础,但把解码器的所有注意力层替换为自研的 Reference Sliding Window Attention(R-SWA),让 KV Cache 在解码过程中保持恒定。换句话说:输出越长,显存和速度越稳定,不会出现传统 LLM 解码器「越写越慢」的窘境。

    核心亮点

    • 恒定 KV Cache:R-SWA 替换标准自注意力,长文档生成时显存占用平稳、解码速度不衰减。
    • 一次前向通读多页:标准 32K 上下文内,可一次完成数十页文档解析,保留跨页上下文。
    • 三种部署形态:提供 Hugging Face transformers、vLLM Docker 镜像、SGLang OpenAI 兼容服务三种开箱方案。
    • 通用解析机制:R-SWA 不局限于 OCR,论文指出同样适用于 ASR、翻译等需要长序列输出的任务。
    • 全链路开放:代码与模型权重均托管在 GitHub 与 Hugging Face,MIT 协议可商用。

    安装与快速上手

    项目环境要求:Python 3.12.3 + CUDA 12.9 通过验证;单张 NVIDIA GPU 即可体验。

    1. Transformers 快速体验

    # 依赖
    pip install torch==2.10.0 torchvision==0.25.0 transformers==4.57.1 Pillow==12.1.1
    pip install matplotlib==3.10.8 einops==0.8.2 addict==2.4.0 easydict==1.13 pymupdf==1.27.2.2 psutil==7.2.2
    
    # 加载模型
    from transformers import AutoModel, AutoTokenizer
    model_name = 'baidu/Unlimited-OCR'
    tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
    model = AutoModel.from_pretrained(model_name, trust_remote_code=True,
                                      use_safetensors=True, torch_dtype=torch.bfloat16).eval().cuda()
    
    # 单图解析(gundam 配置:base_size=1024, image_size=640, crop_mode=True)
    model.infer(tokenizer, prompt='<image>document parsing.',
                image_file='your_image.jpg', output_path='./outputs',
                base_size=1024, image_size=640, crop_mode=True,
                max_length=32768, save_results=True)
    
    # 多页 / PDF
    model.infer_multi(tokenizer, prompt='<image>Multi page parsing.',
                      image_files=['page1.png', 'page2.png'], output_path='./outputs',
                      image_size=1024, max_length=32768, save_results=True)
    

    2. vLLM 生产部署

    # CUDA 13.0
    docker pull vllm/vllm-openai:unlimited-ocr
    # Hopper GPU 使用 cu129 镜像
    docker pull vllm/vllm-openai:unlimited-ocr-cu129
    # 官方 recipe: https://recipes.vllm.ai/baidu/Unlimited-OCR
    

    3. SGLang 批处理服务

    uv venv --python 3.12
    source .venv/bin/activate
    uv pip install wheel/sglang-*.whl kernels==0.11.7 pymupdf==1.27.2.2
    
    python -m sglang.launch_server --model baidu/Unlimited-OCR --served-model-name Unlimited-OCR \
      --attention-backend fa3 --page-size 1 --context-length 32768 \
      --enable-custom-logit-processor --disable-overlap-schedule \
      --skip-server-warmup --host 0.0.0.0 --port 10000
    
    # 并发批跑目录或 PDF
    python infer.py --pdf ./examples/document.pdf --output_dir ./outputs --concurrency 8 --image_mode gundam
    

    典型使用场景

    1. 学术论文整本转 Markdown:把 30 页 PDF 直接丢给模型,一次前向输出带标题层级、公式占位、表格结构的 Markdown,省去分块合并。
    2. RAG 知识库文档预处理:批量解析合同、手册、财报,保留原文版面和段落结构,作为高质量向量库原始文本。
    3. 票据与表格版面结构化:针对扫描发票、银行流水、Excel 截图等,输出键值对或 JSON 结构化结果。

    推荐理由

    最近大家注意力都在 Coding Agent 上,OCR 赛道反而被低估。Unlimited-OCR 真正的价值在于把「长序列输出」这件事做扎实了——R-SWA 让 KV Cache 不再线性膨胀,这是端到端文档理解从 demo 走向生产的关键。

    另外百度这次放出了完整的训练、推理、部署、微调(ms-swift)链路,并且兼容 vLLM / SGLang 两大推理框架,对工程落地非常友好。如果你在做 RAG、知识库、文档数字化,它很可能成为你管道里的默认 OCR 组件。

    资源下载

    • GitHub 仓库:https://github.com/baidu/Unlimited-OCR
    • Hugging Face 模型:https://huggingface.co/baidu/Unlimited-OCR
    • 在线 Demo:https://huggingface.co/spaces/baidu/Unlimited-OCR
    • arXiv 论文:https://arxiv.org/abs/2606.23050
    • ModelScope 模型:https://modelscope.cn/models/PaddlePaddle/Unlimited-OCR
    • 百度智能云:https://cloud.baidu.com/doc/OCR/s/fmr1p39gb