标签: RAG

  • 124K Star 的「AI 应用宝库」:awesome-llm-apps,100+ 个拿来即跑的 LLM / RAG 项目

    124K Star 的「AI 应用宝库」:awesome-llm-apps,100+ 个拿来即跑的 LLM / RAG 项目

    awesome-llm-apps 项目预览

    一、项目简介

    awesome-llm-apps 是一个收录了 100+ 个端到端测试过、Apache-2.0 协议的开源 AI Agent、Agent Skills 与 RAG 应用的精选仓库——clone、定制、上线,全部免费。它兼容 Claude、Gemini、GPT、DeepSeek、Llama、Qwen 以及各类本地开源模型,是当下 GitHub 上星标增长最快的 LLM 应用模板库之一(124K+ Star)。

    二、安装要求和过程

    环境要求

    • Python 3.8+(多数模板基于 Streamlit / 各厂商官方 SDK)
    • 一个 LLM API Key(Claude / Gemini / GPT / DeepSeek / Llama / Qwen 均可,部分模板支持本地模型)
    • Git 与可联网环境

    快速开始(跑一个 Agent,约 30 秒)

    git clone https://github.com/Shubhamsaboo/awesome-llm-apps.git
    cd awesome-llm-apps/starter_ai_agents/ai_travel_agent
    pip install -r requirements.txt
    streamlit run travel_agent.py

    或者,给编码助手装一个 Skill(约 10 秒)

    npx skills add https://github.com/Shubhamsaboo/awesome-llm-apps/tree/main/agent_skills/project-graveyard

    模板每周持续更新;项目模型无关,支持 Ollama 等本地推理,方便对比与替换。

    三、核心功能

    1. 100+ 端到端验证的开源应用:不是 demo 片段,而是每个都能 pip install && run 的完整项目,统一 Apache-2.0,可商用可修改。
    2. 15 大场景全覆盖:从单文件 Starter Agent,到多智能体团队、语音 Agent、MCP 工具调用、RAG 检索、记忆、微调、生成式 UI,再到 Autonomous 游戏 Agent。
    3. Agent Skills 一键安装:把可复用能力直接装进 Claude Code / Codex / Cursor,每条 Skill 都带真实代码并通过「安全 + 评测」CI 门禁。
    4. 模型无关:Claude、Gemini、GPT、DeepSeek、Llama、Qwen 乃至本地模型通吃,方便横向对比。
    5. 自带框架速成课:Google ADK、OpenAI Agents SDK 的 Crash Course,边抄边学编排范式。

    Project Graveyard Agent Skill

    Project Graveyard —— 帮你复盘每个弃坑副业、并找出最值得捡回来的那个的 Agent Skill

    四、典型使用场景

    • 30 分钟搭一个 AI 应用:想做旅行助手、数据分析 Agent、博客转播客?直接 clone 对应 starter 模板、改个 API Key 即可运行。
    • 给编码助手加能力:团队要一个「Scope Creep Detector(范围蔓延检测)」或「Commit Archaeologist(提交考古)」?npx skills add 一行搞定,立刻在 Claude Code / Cursor 里可用。
    • 系统学习 RAG / 多智能体:仓库内含 20+ 个 RAG 教程与多智能体团队模板,即开即用,省去从零搭脚手架。

    Always-on HN Briefing Agent

    Always-on HN Briefing Agent —— 按日程巡逻、把每天值得看的 Hacker News 推送到 Slack / 邮箱的后台 Agent

    Insurance Claim Live Agent Team

    Insurance Claim Live Agent Team —— 基于 Gemini Live 的实时语音理赔 Agent 团队

    五、推荐理由

    对一个想动手做 AI 应用、又不想从零啃文档的人,这是目前质量最高、最「能跑」的 LLM 应用模板库之一。每个模板都是真实可运行代码,省去脚手架与踩坑成本;模型无关意味着你可以拿自己的 Key 直接试;Agent Skills 的设计尤其实用——把沉淀下来的工程能力变成可复用 Skill,正好契合当下 coding agent 的工作流。

    Self-Improving Agent Skills

    Self-Improving Agent Skills —— 用 Gemini + ADK 让 Skill 针对评测自我重写的进阶玩法

    唯一要注意的是:部分模板依赖特定商业模型的 API,跑之前看一眼 requirements.txt 与 README 里的模型说明即可。

    六、下载地址

  • DeepTutor:把 AI 变成陪伴你终身的专属私教(HKUDS 开源)

    DeepTutor:把 AI 变成陪伴你终身的专属私教(HKUDS 开源)

    在 AI 辅导工具层出不穷的今天,大多数产品要么只做”问答”,要么只做”出题”,上下文在每次对话后便归零。香港大学数据科学团队 HKUDS(LightRAG、Vibe-Trading、nanobot 同门)开源的 DeepTutor,想解决的是更本质的问题——如何让 AI 真正”认识”你,并陪你长期、系统地学习。

    一、项目简介

    DeepTutor 是一个智能体原生(agent-native)的终身学习工作台:它将辅导对话、解题、出题测验、文献研究、可视化与掌握度训练整合进同一个可扩展系统,并用一套三层可审计记忆把”个性化”变得可见、可编辑、可追溯。

    DeepTutor Chat 工作台
    Chat 是默认入口:单条对话即可调用工具、挂载知识库、生成图片、咨询子智能体,并在多轮间保持同一上下文。

    二、安装要求与过程

    环境要求:Python 3.11+、Node.js 20+(PyPI 安装方式),或 Node.js 22 LTS(源码方式);Docker 方式无需本地 Python/Node。需要自备一个 LLM 提供商的 API Key,也支持 Ollama / LM Studio / vLLM / llama.cpp 等本地模型。

    官方提供 4 种安装路径,最推荐的是 PyPI 一键安装(完整本地 Web 应用 + CLI,无需克隆仓库):

    mkdir -p my-deeptutor && cd my-deeptutor
    pip install -U deeptutor
    deeptutor init     # 交互式设置端口、LLM 提供商与可选 embedding
    deeptutor start    # 启动后端+前端,默认访问 http://127.0.0.1:3782

    想要一条命令跑起来,也可以用官方 Docker 镜像(仅需暴露 3782 端口):

    docker run --rm --name deeptutor \
      -p 127.0.0.1:3782:3782 \
      -v deeptutor-data:/app/data \
      ghcr.io/hkuds/deeptutor:latest

    此外还有”源码安装(便于二次开发)”与”仅 CLI(无界面)”两种路径,且均可从同一工作区平滑升级到完整 Web 应用。配置全部以 JSON/YAML 形式存放在 data/user/settings/ 下,浏览器里的 Settings 页面即推荐编辑器。

    三、核心功能

    • 一个运行时,覆盖所有学习模式:Chat、Quiz、Research、Visualize、Solve、Mastery Path 共用同一个 Agent Loop,切换的是目标而非引擎,学习上下文始终跟随你。
    • 可连接的学习上下文:知识库、书籍、Co-Writer 草稿、笔记本、题库、人格(Persona)与记忆在各类工作流间共享,不再散落在彼此孤立的工具里。
    • 子智能体与 Partner 伙伴:可在任意对话中实时调用本地 Claude Code / Codex,或导入它们过往的对话记录;也能运行常驻 IM 伙伴(飞书、Telegram、Slack、Discord、钉钉、QQ、企业微信、WhatsApp、Matrix 等)。
    • 多引擎知识库(RAG):可选 LlamaIndex、PageIndex、GraphRAG、LightRAG,或直接挂载 Obsidian vault;文档解析引擎可切换(MinerU / Docling / markitdown 等),并支持版本化、可回滚的索引。
    • 可检视的三层记忆:L1 原始轨迹、L2 表层摘要、L3 跨面综合,层层引用溯源;配套的”记忆图谱”让任何一条个性化结论都能追溯到背后的原始依据。
    DeepTutor 知识中心
    知识中心支持多种检索引擎,每个知识库可独立选择引擎并版本化管理。
    DeepTutor 活书 Book
    Book 把资料一键编译成带测验卡、时间线、交互模块乃至 Manim 动画的”活书”。
    DeepTutor 伙伴 Partner
    Partner 是”有性格、有联系方式”的常驻伙伴,共享同一套大脑与记忆工具。

    四、典型使用场景

    1. 学生个性化辅导:把教材 PDF 建为知识库,让 DeepTutor 按”同伴 / 助教 / 老师”不同人格讲解难点,自动出测验题并给出带解析的参考答案;错题与偏好会沉淀进三层记忆,越用越懂你。

    2. 研究者 / 工程师的文献与写作助手:用 Research 生成带引用的综述,用 Co-Writer 做”选择即改写”的精准编辑(每次改动都是可接受的 diff),用 Book 把资料编译成带交互模块与动画的”活书”。

    3. 团队 / 班级的共享知识中枢:开启多用户鉴权后,一个 data 目录即可托管管理员工作区、彼此隔离的每用户工作区与伙伴工作区;管理员统一分配模型、知识库与技能,普通用户只看到被授权的只读选项,不暴露原始 API Key。

    五、推荐理由(个人使用心得)

    我最看重 DeepTutor 的,是它把”个性化”从一句营销话术变成了可看见、可审计、可编辑的东西。大多数 AI tutor 的记忆是个黑盒,而 DeepTutor 的三层记忆 + 记忆图谱让你能清楚看到”它为什么这么认为你”。对自学者来说,知识库多引擎可选 + 本地模型支持意味着敏感资料不必出网;对开发者来说,MCP、子智能体、CLI 与 EduHub 技能社区又留下了充足的二次创作空间。它不是一个”开箱即用的玩具”,而是一套能陪你长期生长的”学习操作系统”。

    六、下载地址

  • Graphify:把整个代码库变成 AI 可推理的知识图谱

    Graphify:把整个代码库变成 AI 可推理的知识图谱

    📌 项目简介

    Graphify 是一个开源的 AI 编程助手技能(Skill),用一条命令把你手头的代码库、SQL schema、论文 PDF、文档、截图甚至白板照片,全部解析成一张可查询的知识图谱。你的 AI 助手(Claude Code / Cursor / Codex / Gemini CLI / Aider 等 17 种)不再靠 grep 或模糊检索”猜”答案,而是沿着图谱里的真实路径推理——而且每条关系都可溯源、可审计。

    💻 安装要求和过程

    环境要求

    • Python 3.10+(解析与存储完全本地运行,无需任何服务器)
    • 任意一个支持的 AI 编程助手:Claude Code、Cursor、GitHub Copilot、OpenAI Codex、Gemini CLI、Aider 等(共 17 种),或任意 MCP 客户端
    • 联网(仅用于把文件送给你自己配置的模型,如 Claude / Ollama;代码本身不出本机)

    快速安装

    PyPI 上的包名暂时叫 graphifyy(两个 y),但命令与技能名仍然是 graphify

    pip install graphifyy
    graphify install        # 把技能注入你的 AI 助手

    然后在任意目录下打开你的 AI 助手,输入:

    /graphify .            # 对当前目录建图,代码 / 笔记 / 论文通吃

    Windows 若提示找不到命令,把 %APPDATA%\Python\Python3xx\Scripts 加入 PATH,或直接用 pipx install graphifyy;macOS 若报 externally-managed 错误同样改用 pipx 即可。

    ✨ 核心功能

    1. 全模态建图:万物皆可成节点

    支持代码(Python / TS / Go / Rust / Java / C++ 等 36 种 tree-sitter 语法)、文档(md / txt / rst)、论文 PDF,以及截图 / 流程图 / 白板照片 / 多语言文字图片(借助 Claude 视觉能力)。App 代码、数据库 schema、基础设施被统一进同一张图。

    2. 本地优先、零云端、零遥测

    解析在本地跑,图谱就是磁盘上的一个文件(graph.json),没有任何服务器在环、没有任何遥测上报。代码永远不会离开你的机器——对重视隐私和合规的团队尤其关键。

    3. 可审计的溯源:每条边都标明”怎么知道的”

    图谱里每一条关系都被打上 EXTRACTED(源码里实锤)、INFERRED(由结构与命名推理,通常靠谱但值得复核)、AMBIGUOUS(证据指向多于一方)三种标签。AI 回答时引用的是它走过的真实路径,而不是”凭感觉”。

    4. 17 个 AI 助手 + 自带 MCP Server

    一个技能可装进 17 种助手,并额外提供 MCP server:既可 stdio 单机服务,也能 HTTP 给整个团队共享。还附带 graphify prs 终端 PR 看板(CI 状态 / AI 分诊 / 合并冲突风险)。

    5. 自动同步:图谱跟着代码长

    --watch 后台实时重建(代码保存即时、文档 / 图片变化提醒你跑 --update);graphify hook install 还能装一个 git post-commit 钩子,每次提交后自动重建图谱,多 Agent 并行写码时图谱始终保持最新。

    Graphify 知识图谱可视化
    Graphify 将代码库映射为可交互知识图谱:节点=符号,颜色=自动识别的模块社区,大节点=God Node

    🎯 典型使用场景

    场景一:接手一个陌生代码库

    不用硬读 100 个文件——直接查 “god nodes”(连接度最高的符号,改动影响面最大),几分钟摸清架构与模块边界,新成员上手速度拉满。

    场景二:团队共享”谁负责什么”

    把 graph.json 提交进仓库,或用 graphify.serve 走 HTTP。新人问 “谁负责 billing?”,得到的是穿过真实代码的两条跳路径,而不是一周前的 Slack 聊天记录。

    场景三:给 AI 编程助手装”记忆”,省下海量 token

    官方基准:在 Karpathy 仓库 + 论文 + 图片的混合语料上,相比逐文件读取原始文件,每次查询 token 减少 71.5 倍;社区实测在 49.6 万 token 的代码库上省 79 倍,且零向量数据库。NOTE / WHY / HACK 注释还会变成可追查的图谱节点。

    💡 推荐理由

    我最早是被”用图谱替代 grep”这个点打动的。实际用下来,最戳我的是可审计——现在太多 RAG / 向量库方案给的是个不透明的相似度分数,你根本不知道 AI 为什么这么答;Graphify 把每条边都标了出处,你能直接点开源码第几行去验证。再加上纯本地、MIT、零账号零卡片,安全感拉满。它不算”重”的工具,装一个 skill、跑一条命令,就能让手头的 AI 编程助手从”猜”变成”走查”。如果你也受够了助手读不全代码、答非所问,值得一试。

    🔗 下载地址

  • Open WebUI:自托管、可离线运行的 AI 聊天与智能体平台

    Open WebUI:自托管、可离线运行的 AI 聊天与智能体平台

    Open WebUI 界面演示

    项目简介

    Open WebUI 是一个功能丰富、可完全离线运行的自托管 AI 平台,支持 Ollama 本地模型与 OpenAI 兼容 API,内置 RAG 检索增强、多模型对话、语音/视频通话、智能体与插件生态,是把任意大模型变成”私有 ChatGPT”的一站式前端。(GitHub ⭐ 145K+,Python,Open WebUI License)

    安装要求和过程

    环境要求:Python 3.11(pip 方式);或 Docker 20.10+(容器方式);可搭配 Ollama 本地推理,或任意 OpenAI 兼容 API Key。

    方式一 · pip 安装(最简):

    pip install open-webui
    open-webui serve   # 访问 http://localhost:8080

    方式二 · Docker 一条命令(自带 Ollama,CPU):

    docker run -d -p 3000:8080   -v ollama:/root/.ollama -v open-webui:/app/backend/data   --name open-webui --restart always   ghcr.io/open-webui/open-webui:ollama

    方式三 · 仅用 OpenAI API:

    docker run -d -p 3000:8080   -e OPENAI_API_KEY=your_secret_key   -v open-webui:/app/backend/data   --name open-webui --restart always   ghcr.io/open-webui/open-webui:main

    部署后访问 http://localhost:3000 即可使用;也支持 Docker Compose、Kubernetes(Helm/Kustomize)与 uv 安装。

    核心功能

    • 广泛的模型与 API 接入:本地 Ollama + 任意 OpenAI 兼容后端(LM Studio、Groq、OpenRouter、vLLM、Mistral 等),支持多模型并行对话、各取所长。
    • 本地 RAG 知识库:支持 9 种向量数据库与多种文档解析引擎(Tika、Docling、Mistral OCR 等),混合检索(BM25+向量)+ 重排,用 # 命令把文档/网页直接拉进对话。
    • 智能体与插件生态:Filters / Actions / Pipes / Tools / Skills 插件机制,可接 MCP、OpenAPI 工具服务器,把任意基础模型包装成专属 Agent。
    • 语音/视频通话与多模态:本地 Whisper 等 STT + 多种 TTS 引擎,内置 DALL·E / Gemini / ComfyUI 图像生成与编辑,支持网页浏览与联网搜索。
    • 企业级管理与安全:细粒度 RBAC 与用户组、LDAP / SSO / SCIM 自动配置、PostgreSQL 持久化、横向扩展与 OpenTelemetry 可观测性。

    典型使用场景

    • 个人本地 AI 助手:用 Ollama 在笔记本上跑 Llama / Mistral,全程离线、数据不出本机,配合 RAG 问答私人文档。
    • 团队自托管 AI 中台:公司内部署,接入 OpenAI 或自建 vLLM,统一账号、权限与用量审计,替代公网 SaaS,守住数据隐私。
    • 知识库问答与自动化:把 Confluence / Notion / 本地文件建索引,用智能体 + 定时自动化做日报生成、资料检索与多模型 A/B 评估。

    推荐理由

    我把 Open WebUI 当作”私有 ChatGPT 的标杆”。它最打动我的是真正的离线优先与自托管能力——所有聊天与文档数据都留在自己的机器或服务器,不依赖任何云。RAG 开箱即用,多模型对比、语音通话、插件生态一应俱全,Docker 一条命令就能跑起来,对不想把对话记录交给第三方的用户极其友好。社区极其活跃、更新频繁,是个人和中小团队落地 AI 的最低门槛选择。

    下载地址

  • Claude Cookbooks:Anthropic 官方出品的 Claude 使用范例集,47.8K stars 让 AI 开发少走弯路

    Claude Cookbooks:Anthropic 官方出品的 Claude 使用范例集,47.8K stars 让 AI 开发少走弯路

    Claude Cookbooks

    Claude Cookbooks 是 Anthropic 官方维护的一组 Claude 使用范例/配方集(Jupyter Notebooks),用可直接复制、可运行的代码片段教会开发者如何用好 Claude API。它覆盖了文本分类、RAG、摘要、工具调用、多模态视觉、子代理、自动评估、JSON 模式、提示缓存等核心场景。截至 2026 年 7 月,仓库已收获 47.8K+ Stars、5.6K+ Forks,是学习和参考 Claude 官方最佳实践的必读项目。

    一、项目简介

    Claude Cookbooks 的定位非常清晰:它不是框架,也不是 SDK,而是一本「官方菜谱」。每个 Notebook 都围绕一个真实开发问题展开,例如「怎么用 Claude 做 RAG」「怎么让 Claude 调用外部工具」「怎么处理 PDF 与图片」「怎么自动评估生成结果」。你可以直接复制代码到自己的项目里,也可以把它当成学习 Claude API 的教程。

    二、安装要求和过程

    环境要求:

    • Python 3.10+(示例代码以 Python 为主);
    • 一个 Claude API Key(可在 Anthropic 官网 免费注册);
    • 仓库使用 uv 管理依赖,建议安装 uv(pip install uvcurl -LsSf https://astral.sh/uv/install.sh | sh);
    • 运行 Jupyter Notebook 需要浏览器或 VS Code Jupyter 插件。

    快速安装:

    # 1. 克隆仓库
    git clone https://github.com/anthropics/claude-cookbooks.git
    cd claude-cookbooks
    
    # 2. 用 uv 安装依赖
    uv sync
    
    # 3. 设置环境变量
    export ANTHROPIC_API_KEY="sk-ant-api03-..."
    
    # 4. 启动 Jupyter 浏览示例
    jupyter notebook

    如果你不想安装 uv,也可以直接用 pip:pip install anthropic jupyter,然后逐本运行 Notebook。

    三、核心功能

    • 覆盖 Claude 全能力的实战 Notebook:从基础的文本分类、摘要、RAG,到高级的工具调用(Tool Use)、JSON 模式、子代理(Sub-agents)、自动评估(Evals)和提示缓存,几乎囊括了 Claude 的所有核心能力。
    • 官方出品、持续更新:Anthropic 工程团队直接维护,Notebook 会跟随 Claude 3.5 / 3.7 / 4 系列模型和新 API 特性同步更新,避免你学到过时的写法。
    • 可复制、可扩展的代码片段:每个配方都提供最小可运行示例,代码结构清晰,方便你替换成自己的数据、提示词或业务逻辑。
    • 多模态与文档理解:包含视觉理解、图表解析、PDF 内容提取、表单识别等示例,适合需要处理非结构化数据的项目。
    • 评估与可观测性:提供自动评估 Cookbook 和 Agent 搜索基准复现(DeepSearchQA / BrowseComp),帮助你建立「改提示 → 跑评估 → 看指标」的迭代闭环。

    四、典型使用场景

    1. 快速上手 Claude API:如果你是第一次用 Claude API,直接打开 getting_started 或基础能力 Notebook,五分钟就能把第一条请求跑起来。
    2. 构建 RAG 与文档问答应用:参考 RAG 配方,把自有文档切分、嵌入、检索后交给 Claude 生成答案;也可以看多模态示例,直接让 Claude 读取 PDF 或图片并回答。
    3. 开发工具型 Agent:学习如何让 Claude 调用计算器、数据库、搜索引擎等外部工具,并进一步组合成多 Agent 协作系统(Coordinator + Sub-agents)。

    五、推荐理由

    Claude Cookbooks 给我的最大价值是「少走弯路」。网上关于 Claude 的教程很多,但官方示例在 Prompt 写法、参数选择、错误处理和成本控制上往往最贴近生产实践。特别是工具调用、JSON 模式和提示缓存这几个容易踩坑的场景,官方代码把最佳实践写得非常清楚。而且它完全开源(MIT),Notebook 形式读起来没有框架源码那么重,适合一边看一边改。

    六、下载地址

  • Dify:开源 LLM 应用开发平台,148K Stars 把 AI 工作流从原型秒送生产

    Dify:开源 LLM 应用开发平台,148K Stars 把 AI 工作流从原型秒送生产

    Dify 一览

    在 AI 应用落地的草莽时代,几乎每个团队都在重复造轮子:接模型要写一遍适配、做检索要搭一套向量库、上生产还要自己补日志和监控。把这套东西拼起来,往往比业务本身还费劲。Dify 的出现,就是要把这件事彻底标准化。

    一、项目简介

    Dify 是一个开源的 LLM 应用开发平台,用一张可视化画布把 AI 工作流、RAG 检索增强、Agent 能力、模型管理与可观测性打包在一起,让你从原型到生产只差一次部署。目前 GitHub 已收获 148.4K Stars、23K+ Fork,是开源 LLM 应用开发领域当之无愧的头部项目。

    二、安装要求和过程

    环境要求:

    • CPU ≥ 2 核
    • 内存(RAM)≥ 4 GiB
    • 已安装 DockerDocker Compose
    • 操作系统:Linux / macOS / Windows(WSL2)

    快速安装(Docker Compose,官方最推荐方式):

    git clone https://github.com/langgenius/dify.git
    cd dify/docker
    cp .env.example .env
    docker compose up -d

    启动完成后,浏览器访问 http://localhost/install 即可进入初始化向导。如果你需要高可用部署,官方文档还提供了 Helm Chart、Terraform(Azure / GCP)、AWS CDK 以及阿里云计算巢等多种方案。

    三、核心功能

    1. 可视化工作流画布(Workflow)
    在画布上拖拽编排 AI 流程,节点可调试、可分支、可回放,复杂逻辑一目了然。

    2. 全面的模型支持
    无缝接入数百个闭源 / 开源大模型(GPT、Mistral、Llama3 及所有 OpenAI 兼容模型),覆盖几十家推理服务商与自托管方案,切换模型无需改代码。

    3. 开箱即用的 RAG 管线
    从文档摄入到检索全链路覆盖,原生支持 PDF、PPT 等常见格式的智能提取,几步就能搭出带引用来源的问答助手。

    4. 强大的 Agent 能力
    基于 Function Calling 或 ReAct 定义智能体,内置 50+ 工具(Google 搜索、DALL·E、Stable Diffusion、WolframAlpha 等),也可接入自定义工具。

    5. LLMOps 与 Backend-as-a-Service
    应用日志与性能可监控、可迭代;所有能力均提供对应 API,轻松把 AI 能力嵌入自有业务系统。

    四、典型使用场景

    1. 企业知识库问答 / 智能客服
    导入内部文档构建 RAG,几步搭出带引用来源、可溯源的客服助手,替代翻手册式的重复答疑。

    2. 可视化 Agent 工作流自动化
    把“检索 → 生成 → 调用工具 → 校验”串成一张画布,用可视化的方式替代脆弱的脚本编排。

    3. 快速原型 + API 集成
    先用 Dify 低成本验证想法,再通过 BaaS API 把打磨好的 AI 能力无缝嵌入现有产品。

    五、推荐理由

    个人使用下来,Dify 最打动我的是“把复杂度收敛到一个画布上”。它不要求你先成为向量数据库专家或 Prompt 工程师,普通开发者也能在半小时内跑通一个带 RAG 的可用应用;而当项目要上生产时,LLMOps 的日志、评估与 API 化能力又刚好补上团队最缺的那一环。对于想认真做 AI 产品的团队,它是目前最省心的一站式底座——既能自建私有化守住数据,也能平滑对接云端大模型。

    六、下载地址

    许可证:Dify Open Source License(基于 Apache 2.0,附加部分条款)。本文数据截至 2026-07-11,Stars 约 148.4K。

  • Crawl4AI:把全网网页变成 LLM 能直接用的干净 Markdown,RAG 数据清洗一步到位(71.8K★)

    Crawl4AI:把全网网页变成 LLM 能直接用的干净 Markdown,RAG 数据清洗一步到位(71.8K★)

    Crawl4AI 项目封面

    一、项目简介

    Crawl4AI 是一个开源、对大模型友好的网页爬虫与抓取框架,能把任意网页一键转换成结构清晰、可直接喂给 LLM / RAG 的 Markdown,并支持结构化数据提取、截图、动态渲染等能力。对做检索增强、知识库、Agent 联网取数的人来说,它基本等于把”爬虫 + 清洗”两道工序合并了。

    二、安装要求和过程

    环境要求:Python 3.10 及以上;底层基于 Playwright(Chromium),首次使用需下载浏览器内核。

    快速安装(Python 包):

    # 安装
    pip install -U crawl4ai
    
    # 安装后执行一键浏览器配置
    crawl4ai-setup
    
    # 自检环境是否就绪
    crawl4ai-doctor
    
    # 若遇到浏览器相关报错,可手动补全
    python -m playwright install --with-deps chromium

    Docker 部署(推荐生产环境):

    docker pull unclecode/crawl4ai:latest
    docker run -d -p 11235:11235 --name crawl4ai --shm-size=1g unclecode/crawl4ai:latest
    # 监控面板: http://localhost:11235/dashboard
    # 交互 playground: http://localhost:11235/playground

    三、核心功能

    • LLM 就绪的 Markdown 输出:智能 Markdown 保留标题、表格、代码块,并提供 Fit Markdown(裁剪导航/广告等无关内容)、引用标注,以及基于 BM25 算法的内容过滤,正文噪声大幅降低。
    • 结构化数据提取:支持基于 LLM 的 Schema 提取、CSS 选择器提取、余弦相似度匹配,配合分块(Chunk)策略,直接产出 Pydantic 结构化对象,无需手写正则。
    • 真·浏览器级抓取:基于 Playwright 托管浏览器,支持会话保持、代理、Cookie、用户脚本、Hook、动态视口调整、懒加载处理,还能截图与生成 PDF。
    • 自适应爬取与调度:异步浏览器池 + 缓存机制,能学习网站结构、只爬该爬的页面;内置深度爬取与内存自适应调度,从单页到万级站点都能扛。
    • 部署灵活、可接 Agent:零密钥、CLI + Docker 双形态;新版 Docker 自带监控面板、浏览器池预热、Playground 与 MCP 集成,可直连 Claude Code 等 AI 编程工具。

    四、典型使用场景

    • 搭 RAG 知识库:把公司文档站、竞品官网、行业博客批量抓成干净 Markdown,直接喂进向量库做检索增强,省去大量手写清洗规则。
    • 生成 LLM 训练 / 微调语料:用 LLM 提取策略从定价页、榜单页抽取结构化字段(例如各家模型的价格表),产出干净的 JSON 数据集。
    • AI Agent 联网取数:通过 Docker + MCP 把 Crawl4AI 接进 Agent 工作流,让智能体实时抓取网页、执行 JS、截图后回写结果,补足大模型”看不见实时网页”的短板。

    五、推荐理由

    我自己踩过不少爬虫的坑:传统方案要么反爬头疼,要么抓下来的 Markdown 一堆导航/侧边栏噪音,接 RAG 前还得再写一层清洗。Crawl4AI 的 Fit Markdown + BM25 过滤基本把”正文 vs 杂质”这件事做对了,接检索增强时相当省心;异步 + 浏览器池的性能也不错,小规模到大规模都能用。Docker 镜像开箱即用,MCP 直连 Claude Code 这点对做 Agent 的人尤其香。小提醒:它依赖 Playwright/Chromium,首次部署体积不小;上生产建议走 0.9.0+ 的安全加固 Docker 镜像(已修复路径遍历 / SSRF / RCE)。

    六、下载地址

  • Zvec:阿里开源轻量级进程内向量数据库,一行 pip install 搞定十亿级向量检索

    Zvec:阿里开源轻量级进程内向量数据库,一行 pip install 搞定十亿级向量检索

    📌 项目简介

    Zvec 是阿里巴巴开源的轻量级进程内向量数据库(In-process Vector Database)——无需启动独立服务,直接嵌入你的应用代码中运行。它以闪电般的速度完成数十亿级向量的相似性搜索,同时支持密集向量、稀疏向量、混合检索和全文搜索,是构建 RAG 应用、AI Agent 记忆系统和语义搜索引擎的理想底层引擎。

    经过阿里巴巴集团内部生产环境验证,Zvec 在保持极简部署的同时提供了企业级的低延迟和高吞吐能力。

    ⚙️ 安装要求和过程

    环境要求

    • 操作系统:Linux(x86_64 / ARM64)、macOS(ARM64)、Windows(x86_64)
    • Python 版本:3.10 ~ 3.14(pip 安装方式)
    • Node.js / Go / Rust / Dart:均有官方 SDK 支持

    快速安装(Python)

    # 一行命令安装
    pip install zvec
    
    # 验证安装
    python -c "import zvec; print('Zvec OK')"

    一分钟上手示例

    import zvec
    
    # 定义集合 Schema
    schema = zvec.CollectionSchema(
        name="example",
        vectors=zvec.VectorSchema("embedding", zvec.DataType.VECTOR_FP32, 4),
    )
    
    # 创建集合
    collection = zvec.create_and_open(path="./zvec_example", schema=schema)
    
    # 插入文档
    collection.insert([
        zvec.Doc(id="doc_1", vectors={"embedding": [0.1, 0.2, 0.3, 0.4]}),
        zvec.Doc(id="doc_2", vectors={"embedding": [0.2, 0.3, 0.4, 0.1]}),
    ])
    
    # 向量相似度搜索
    results = collection.query(
        zvec.Query(field_name="embedding", vector=[0.4, 0.3, 0.3, 0.1]),
        topk=10
    )
    print(results)

    📦 其他语言 SDK

    • Node.jsnpm install @zvec/zvec
    • Rustzvec-rust
    • Gozvec-go
    • Dart/Flutterflutter pub add zvec

    🔥 核心功能

    1. 极速检索 —— 十亿级向量毫秒级响应
      基于 HNSW 等高效索引算法,在数十亿向量规模下仍能实现毫秒级延迟的相似度搜索。
    2. 密集 + 稀疏向量双模态支持
      同时支持 Dense Vector(浮点密集向量)和 Sparse Vector(稀疏向量),适配不同 Embedding 模型输出格式。
    3. 原生全文搜索(FTS)
      v0.5.0 新增!可为任意字符串字段附加 FTS 索引,支持自然语言或结构化表达式查询,无需外部搜索引擎。
    4. 混合检索(Hybrid Search)
      单次 MultiQuery 融合向量相似度、全文搜索、标量过滤和多维度排序,返回精确结果。
    5. DiskANN 磁盘索引
      v0.5.0 新增!将大部分索引数据放在磁盘上,大幅降低大规模数据集的内存占用。
    6. 持久化存储(WAL 日志)
      Write-Ahead Logging 保证崩溃安全——即使进程异常退出或断电,数据也绝不丢失。
    7. 多语言生态 + 可视化工具
      官方提供 Python / Node.js / Go / Rust / Dart 五种 SDK,另有 Zvec Studio 图形化管理工具。

    💡 典型使用场景

    场景一:RAG 检索增强生成系统

    将文档切片后的 Embedding 向量存入 Zvec,用户提问时先做语义检索召回相关片段,再送入 LLM 生成回答。Zvec 的本地化特性意味着零网络延迟、零外部依赖,特别适合隐私敏感的企业 RAG 场景。

    场景二:AI Agent 长期记忆

    为 AI Agent 构建持久化的记忆库——将用户交互、偏好、历史决策编码为向量存入 Zvec,Agent 启动时自动加载记忆上下文。WAL 持久化确保记忆永不丢失,混合检索支持按时间、主题、情感等多维度精准回忆。

    场景三:边缘设备 / 本地优先语义搜索

    作为进程内库嵌入到笔记本 App、IoT 设备或 CLI 工具中,实现离线语义搜索能力。无服务端依赖资源占用极小,支持 ARM64 和 RISC-V 架构,从云端到边缘全覆盖。

    ✨ 推荐理由

    用过不少向量数据库后,Zvec 的设计哲学让我印象深刻:“Just Works”——不需要配置服务器、不需要 Docker、不需要外部依赖。一个 pip install zvec 就能开始使用。

    对比同类方案:

    特性 Zvec 传统向量数据库
    部署方式 一行 pip install 独立服务 + 配置集群
    外部依赖 零依赖 Redis/Elasticsearch 等
    全文搜索 内置 FTS 需额外集成 ES
    混合检索 原生支持 需自行编排
    适用场景 RAG / Agent / 本地应用 大规模分布式检索

    v0.5.0 更是加入了全文搜索 + DiskANN + 多语言 SDK三大重磅功能,让 Zvec 从一个纯粹的向量数据库进化为全能型本地搜索引擎。对于正在搭建 RAG 系统、AI Agent 或需要本地语义搜索能力的开发者来说,Zvec 是目前最值得尝试的选择之一。

    🔗 下载地址

  • Continue:开源 AI 编程助手,让 VS Code 和 JetBrains 拥有最强大脑(34K+ Stars)

    Continue:开源 AI 编程助手,让 VS Code 和 JetBrains 拥有最强大脑(34K+ Stars)

    Continue:开源 AI 编程助手,让 VS Code 和 JetBrains 拥有最强大脑

    ⭐ 34K+ Stars
    TypeScript
    Apache-2.0
    持续维护中

    📌 项目简介

    Continue 是为 VS CodeJetBrains IDE 打造的开源 AI 编程助手,让开发者在熟悉的编辑器里直接获得代码补全、交互式聊天、代码编辑等 AI 能力。官网 slogan:“The easiest way to code with any LLM” —— 支持几乎所有主流大模型,本地、云端随意切换。

    🌐 官网continue.dev
    📦 安装VS Code / JetBrains Marketplace 搜索 “Continue”
    🔑 许可Apache-2.0

    🔧 安装要求和过程

    环境要求

    • VS Code 1.70+ 或 JetBrains IDE(IntelliJ / PyCharm / WebStorm 等)
    • 支持 Windows / macOS / Linux 三平台
    • 网络连通(用于下载模型或连接云端 API)
    • 本地运行需要 Ollama 等本地 LLM 工具(可选)

    快速安装(3 步搞定)

    1. 安装插件:在 VS Code 扩展市场或 JetBrains Plugin 市场搜索 Continue,一键安装
    2. 选择模型:打开 Continue 侧边栏,选择你想用的模型(云端 API 或本地 Ollama)
    3. 开始编码:在编辑器中选中代码,按快捷键唤醒 AI,或直接聊天提问
    💡 快速体验:不想配置 API Key?先装个 Ollama,在 Continue 里选一个本地模型,零成本跑起来!

    🎯 核心功能

    1. 智能代码补全(Autocomplete)

    基于上下文的多行代码补全,比传统补全更懂你的意图。支持主流编程语言,响应速度经过专门优化,打字如飞不卡顿。

    2. 交互式聊天(Chat)

    在侧边栏和 AI 对话,支持引用当前文件、选中代码、整个项目上下文。可以问 “这段代码什么意思?”、”帮我优化这个函数”、”写一个单测” 等,AI 直接给出代码建议。

    3. 编辑与重构(Edit)

    选中代码后,用自然语言描述你想做的修改,Continue 直接在编辑器里帮你改好。支持多文件编辑、批量重构,是日常开发最高频使用的功能。

    4. 模型自由切换

    支持 100+ LLM 提供商:Anthropic Claude、OpenAI GPT、Google Gemini、本地 Ollama、自托管 vLLM……一套界面,随意切换。企业可以用自己的模型,个人开发者可以零成本用本地模型。

    5. 上下文理解(Context Awareness)

    Continue 不只是 “聊天框里的 AI”,它能理解你的项目结构、当前文件、选中的代码,甚至整个代码库。支持 @files@folders@code 等快捷引用,让 AI 精准理解你的意图。

    🚀 典型使用场景

    场景一:快速理解遗留代码

    接手一个陌生项目,面对几千行没注释的代码一头雾水?选中整个文件,问 Continue:”这个文件的核心逻辑是什么?有哪些潜在问题?” 几秒钟就能获得清晰的解读,比自己啃代码效率高 10 倍。

    场景二:本地零成本 AI 编程

    不想把代码上传到云端?装个 Ollama,在 Continue 里选一个本地跑的开源模型(DeepSeek Coder、CodeLlama 等),所有代码处理都在本地完成,隐私 100% 可控,还不用花一分钱 API 费用。

    场景三:团队协作统一 AI 工作流

    Continue 支持配置文件(config.json)提交到代码库,团队所有人用同一套提示词、同一个模型,AI 辅助编码的效果可复现、可迭代,从 “个人玩具” 升级为 “团队生产力工具”。

    💎 推荐理由

    作为每天和代码打交道的开发者,我对 Continue 的评价就三个字:真的香

    最打动我的是它的 模型无关设计。不像有些 AI 编程工具绑定特定厂商,Continue 把选择权完全交给你——想用 Claude 写复杂逻辑、用本地模型做快速补全、用 GPT 做代码 review,全在一个插件里搞定,不用在不同的工具之间反复横跳。

    另一个亮点是 开源透明。Apache-2.0 许可,代码完全公开,不用担心 “哪天服务商涨价或者跑路”。而且开源社区非常活跃,几乎每周都有新功能发布,Issue 响应速度也很快。

    当然也有不足:模型切换的配置界面对新手不太友好,第一次用的时候需要花点时间搞清楚怎么添加自定义模型。但一旦配置好,日常使用体验非常流畅,已经成了我写代码时离不开的工具。

    如果你在用 VS Code 或 JetBrains,还没试过 Continue,强烈建议花 5 分钟装一下 —— 它可能会改变你写代码的方式。


    📦 下载地址

  • WrenAI:开源 GenBI 引擎,让 AI 智能体生成可信的 Text-to-SQL 和仪表盘,15.7K Stars 让数据分析变得简单

    WrenAI:开源 GenBI 引擎,让 AI 智能体生成可信的 Text-to-SQL 和仪表盘,15.7K Stars 让数据分析变得简单

    15.7K+GitHub Stars
    22+数据源支持
    Apache-2.0开源许可

    📊 项目简介

    WrenAI 是一个面向 AI 智能体的开源生成式商业智能(GenBI)引擎,通过开放上下文层实现受管制的 Text-to-SQL,让自然语言问题转化为可信的仪表盘、图表和 SQL,支持 BigQuery、Snowflake、PostgreSQL、ClickHouse、Databricks 等 20+ 数据源。

    传统的 BI 工具需要专业的数据分析技能,而直接使用 LLM 生成 SQL 又常常不可靠——AI 不了解业务逻辑,容易生成错误的结果。WrenAI 的革新之处在于引入了开放上下文层(Open Context Layer):通过将业务语义、已验证定义、示例、记忆和治理规则以可版本化、可溯源的文件存储,让 AI 智能体能够生成可信的 SQL 和分析结果。

    该项目由 Canner 团队开发维护,采用 Apache-2.0 开源许可,累计 2523+ 次提交,是 GenBI 领域的开创性项目。2026 年,随着 AI Agent 的爆发,WrenAI 已成为 AI 驱动数据分析的首选开源方案。

    ⚙️ 安装要求和过程

    环境要求

    • Python:3.9+(推荐使用 3.10 或更高版本)
    • Node.js:18+(用于 AI 客户端适配脚本安装)
    • 数据源:已部署的 PostgreSQL / BigQuery / Snowflake / ClickHouse 等(或本地 DuckDB)
    • 可选:Vercel 或 Cloudflare Pages 账号(用于仪表盘部署)

    快速安装步骤

    方式一:Python CLI 安装(推荐)

    # 核心版本,内置 DuckDB 引擎
    pip install wrenai
    
    # 按需添加数据源扩展和记忆功能
    pip install "wrenai[postgres,memory]"
    
    # 国内用户可使用清华 PyPI 镜像加速
    pip install wrenai -i https://pypi.tuna.tsinghua.edu.cn/simple
    
    # 若 HuggingFace 模型下载超时,设置镜像
    export HF_ENDPOINT=https://hf-mirror.com

    方式二:AI 客户端适配(让 AI 智能体使用 WrenAI)

    # 自动检测当前环境的 AI 客户端(Claude Code、Cursor 等)
    npx skills add Canner/WrenAI

    方式三:Docker 部署(完整平台)

    git clone https://github.com/Canner/WrenAI.git
    cd WrenAI
    docker-compose up -d

    初始化配置

    安装完成后,向 AI 智能体发送指令:

    Use Wren to set up my Postgres database

    智能体会自动执行引导流程,完成数据源连接、项目初始化和首次查询。你还可以发送:

    Enrich my Wren project with the business context in raw/

    让智能体自动提取业务知识,丰富上下文层。

    🌟 核心功能

    🎯 开放上下文层(Open Context Layer)

    这是 WrenAI 的核心创新。业务逻辑(指标定义、枚举值、单位、已验证关联规则等)以可版本化、可溯源的文件存储:语义模型(MDL)、企业定义文件(instructions.md)、历史查询记录。支持 Git 管理,不依赖封闭 UI,可被所有 AI 智能体和团队成员复用。

    🔍 可信 Text-to-SQL

    结合开放上下文层,WrenAI 通过语法感知检索、MDL 规划、预执行验证、结构化错误提示、值分析、评估工具链,大幅提升 SQL 生成的正确性。支持 20+ 数据源,包括云数仓(BigQuery、Snowflake、Databricks)、传统关系型数据库(PostgreSQL、MySQL、SQL Server)和本地文件。

    📊 生成式仪表盘

    可将分析结果一键转换为可交互、支持筛选的浏览器端仪表盘,基于 wren-core-wasm 实现。支持一键部署到用户自己的 Vercel 或 Cloudflare Pages 账号,生成可分享的公开链接。从自然语言提问到团队可访问的仪表盘,全程自动化。

    🤖 AI 智能体原生集成

    提供 Agent SDK(wren-langchain 兼容 LangChain/LangGraph,wren-pydantic 支持其他 Python 技术栈)。支持 MCP 协议,可对接 Claude Code、Cursor、Cline、Codex 等各类 AI 客户端。安装适配脚本后,AI 智能体可调用 WrenAI 的工作流指南和查询能力。

    🔐 受管制执行能力

    支持行级/列级访问控制(RLAC/CLAC)、查询行数限制、审计日志、审批工作流等治理能力。企业可以安全地让 AI 访问敏感数据,确保合规性和可审计性。混合检索的本地 LanceDB 记忆索引可召回历史相似查询,持续提升准确性。

    💡 典型使用场景

    场景一:数据分析师的 AI 助手

    数据分析师小李每天需要处理大量业务方的临时数据查询需求。以前他需要手写 SQL、等待查询、制作图表,耗时耗力。使用 WrenAI 后,业务方可以直接用自然语言提问:“上个月各区域的销售额同比增长了多少?” WrenAI 基于上下文层生成可信的 SQL,自动生成图表,并部署为可分享的仪表盘。小李只需要审核结果,大大提升了工作效率。

    价值:减少 80% 的重复查询工作,业务方自助获取数据洞察,数据分析师专注于高价值分析。

    场景二:企业级 AI Agent 的数据分析能力

    某公司正在构建企业级 AI Agent,需要让 Agent 能够查询公司内部的数据仓库。直接使用 LLM 生成 SQL 的准确率低,且无法复用业务逻辑。通过集成 WrenAI 的 Agent SDK 和 MCP 协议,Agent 可以访问开放上下文层,生成可信的 SQL,并通过受管制执行能力确保数据安全。所有业务逻辑以文件形式存储,支持 Git 版本管理,团队可以持续迭代优化。

    价值:AI Agent 的数据分析能力从”不可靠”变为”可信”,业务逻辑可复用、可版本化、可审计。

    🚀 推荐理由

    为什么推荐 WrenAI?

    1. 解决了 AI + BI 的核心痛点
    LLM 生成 SQL 的最大问题是”不可信”——AI 不了解业务逻辑,容易生成错误的结果。WrenAI 的开放上下文层方案非常优雅:将业务逻辑以文件形式存储,可被所有 AI 智能体和团队成员复用,支持 Git 管理。这比封闭的商业产品更具可持续性。

    2. GenBI 是 AI Agent 应用的新范式
    2026 年,AI Agent 从”聊天”走向”执行”,数据分析是最高频的企业场景之一。WrenAI 不仅是 Text-to-SQL 工具,更是完整的 GenBI 引擎——从自然语言提问到可信 SQL,从分析结果到可分享仪表盘,全流程自动化。这是 BI 工具的范式转变。

    3. 开源 + 企业级能力
    采用 Apache-2.0 许可,可自由修改和部署。同时内置了行级/列级访问控制、审计日志、审批工作流等企业级能力,满足数据安全合规要求。支持 20+ 数据源,无需替换现有数据栈。

    4. AI 智能体原生设计
    不是”给人的工具”,而是”给 AI 的工具”。提供 Agent SDK、MCP 协议支持,可无缝集成到 Claude Code、Cursor、LangChain 等 AI 开发框架。开放上下文层的设计让 AI 智能体能够持续学习和改进。

    小缺点
    目前文档主要用英文,中文社区还在建设中。部分高级功能(如仪表盘部署)需要 Vercel/Cloudflare 账号,对纯本地部署场景略有不便。但核心功能完全可以本地使用,不影响基本使用。

    📥 下载地址

    WrenAI · GenBI for AI Agents · 让数据分析变得简单、可信、可追溯
    数据与 AI 的桥梁 · Text-to-SQL 的新范式 · 2026 年值得关注的开源项目