YOHO AI

标签： RAG

  • Open-WebUI：自托管AI平台，打造专属的ChatGPT体验

    在本地运行大语言模型（LLM）已经成为越来越多开发者和AI爱好者的选择。但Ollama等工具缺乏友好的Web界面，而Open-WebUI完美解决了这个问题——它提供了一个功能丰富、可自托管的AI交互平台，让你在本地也能享受媲美ChatGPT的使用体验。

    项目简介

    Open-WebUI 是一个可扩展、功能丰富、用户友好的自托管AI平台，支持完全离线运行。它兼容Ollama、OpenAI兼容API等多种LLM运行器，并内置RAG（检索增强生成）推理引擎。目前GitHub Stars已超过105,000+，是本地AI部署的首选界面方案。

    安装要求和过程

    环境要求

    • Python方式：需要 Python 3.11（避免使用其他版本以免兼容性问题）
    • Docker方式：需要安装Docker，建议使用GPU环境以获得更好性能
    • Ollama：如需本地运行模型，需提前安装Ollama
    • 存储空间：至少预留5GB空间用于模型和数据集

    快速安装步骤

    方式一：Python pip安装（最简单）

    # 安装项目
pip install open-webui

# 启动服务，访问地址：http://localhost:8080
open-webui serve

    方式二：Docker快速部署（推荐）

    # 基础部署（Ollama在本地）
docker run -d -p 3000:8080   --add-host=host.docker.internal:host-gateway   -v open-webui:/app/backend/data   --name open-webui --restart always   ghcr.io/open-webui/open-webui:main

# 访问地址：http://localhost:3000

    方式三：一体化部署（包含Ollama）

    # 带GPU支持
docker run -d -p 3000:8080 --gpus=all   -v ollama:/root/.ollama   -v open-webui:/app/backend/data   --name open-webui --restart always   ghcr.io/open-webui/open-webui:ollama

# 仅CPU
docker run -d -p 3000:8080   -v ollama:/root/.ollama   -v open-webui:/app/backend/data   --name open-webui --restart always   ghcr.io/open-webui/open-webui:ollama

    核心功能

    • 多模型兼容：无缝集成Ollama、OpenAI API，支持对接LMStudio、GroqCloud、Mistral、OpenRouter等第三方服务，一个界面管理所有AI模型。
    • 本地RAG能力：内置检索增强生成引擎，支持9种向量数据库（ChromaDB、PGVector、Qdrant、Milvus等），可直接上传文档进行智能问答。
    • 多模态交互：支持语音/视频通话，集成多种语音转文本和文本转语音引擎；支持DALL-E、Gemini、ComfyUI等多种图像生成引擎。
    • 权限管理：细粒度用户角色与权限控制，支持LDAP/AD集成、SSO单点登录，适合团队和企业部署。
    • 插件扩展：支持Pipelines插件框架，可自定义业务逻辑（函数调用、用户限流、实时翻译、内容过滤等）。

    典型使用场景

    场景一：个人本地AI助手

    通过Docker一键部署Open-WebUI + Ollama，在本地运行Llama 3、Mistral等开源模型。所有数据完全离线，保障隐私安全；同时获得与ChatGPT媲美的Web交互体验，支持多轮对话、Markdown渲染、代码高亮等功能。

    场景二：团队协作AI平台

    利用Open-WebUI的权限管理和SSO集成能力，为企业团队搭建内部AI平台。通过RBAC控制不同用户的模型访问权限，对接企业内部知识库实现RAG问答，并监控API使用量和成本。

    场景三：AI应用开发测试

    开发者可使用Open-WebUI快速测试不同LLM模型的效果，通过模型构建器自定义提示词和角色，利用Python函数调用扩展自定义能力，加速AI应用的原型开发和测试验证。

    推荐理由

    Open-WebUI是我试用过的最优秀的本地LLM Web界面，没有之一。它的设计非常贴合实际使用场景：响应式界面适配各种设备，PWA支持让你可以像原生App一样使用，RAG功能让你可以轻松对接个人知识库。

    相比其他类似工具，Open-WebUI的最大优势在于完整性和成熟度：它不仅有精美的界面，还有完整的企业级功能（权限管理、SSO、监控等），同时支持广泛的模型和后端的灵活配置。无论你是个人用户还是企业团队，都能找到适合自己的部署方式。

    特别推荐它的RAG集成能力——上传文档后可以直接在对话中引用，支持多种向量数据库和搜索引擎，真正实现”个人AI知识库”的落地。如果你一直在寻找一个好用的本地LLM界面，Open-WebUI绝对值得一试。

    下载地址

    如果你觉得这个项目有帮助，欢迎到GitHub上点个Star支持开发者！

  • 【开源推荐】Open WebUI：142K+ Stars！自托管 AI 聊天界面，隐私优先的本地大模型前端

    【开源推荐】Open WebUI：142K+ Stars！自托管 AI 聊天界面，隐私优先的本地大模型前端

    Open WebUI

    Open WebUI – 自托管 AI 聊天界面

    📦 项目简介

    Open WebUI 是一个用户友好的自托管 AI 界面，支持 Ollama、OpenAI API 等多种 LLM 服务，可完全离线运行。它提供了类似 ChatGPT 的优雅聊天体验，同时保障数据隐私，是企业和个人部署本地 AI 能力的首选前端方案。

    ⭐ 142K+ Stars
    🍴 20.3K+ Forks
    🐍 Python + Svelte
    📦 Docker 一键部署

    ⚙️ 安装要求和过程

    环境要求

    • Python 3.11（pip 安装方式必须使用此版本）
    • Docker（推荐，最简单）
    • Ollama（如需本地模型，可选）
    • 磁盘空间：至少 2GB（含依赖和模型）

    方式一：Docker 安装（推荐）

    # 基础安装（Ollama 在本地）

    docker run -d -p 3000:8080 \
      –add-host=host.docker.internal:host-gateway \
      -v open-webui:/app/backend/data \
      –name open-webui –restart always \
      ghcr.io/open-webui/open-webui:main

    # 内置 Ollama（CPU）

    docker run -d -p 3000:8080 \
      -v ollama:/root/.ollama \
      -v open-webui:/app/backend/data \
      –name open-webui –restart always \
      ghcr.io/open-webui/open-webui:ollama

    方式二：Python pip 安装

    pip install open-webui
    open-webui serve

    ⚠️ 注意：必须使用 Python 3.11，避免兼容性问题！

    安装完成后访问 http://localhost:8080 即可使用。

    ✨ 核心功能

    🤖 1. 多模型兼容

    原生支持 Ollama、OpenAI 兼容 API，可对接 LMStudio、GroqCloud、Mistral、OpenRouter 等第三方服务。支持同时调用多个模型，获取最优输出结果。

    📚 2. RAG 检索增强生成

    支持 9 种向量数据库（ChromaDB、PGVector、Qdrant 等），多种内容提取引擎。可上传文档到知识库，通过 # 命令快速调用文档内容，打造私人知识助手。

    🔍 3. 联网搜索能力

    支持 15+ 搜索引擎（SearXNG、Google PSE、Brave Search 等）的 RAG 联网搜索，可直接输入 URL 引用网页内容到对话中，让 AI 获取实时信息。

    🎨 4. 多模态交互

    支持语音/视频通话，集成多种语音转文字、文字转语音引擎。支持图像生成与编辑，可对接 DALL-E、Gemini、ComfyUI、AUTOMATIC1111 等引擎。

    🔧 5. 企业级管理能力

    支持基于角色的访问控制（RBAC）、LDAP/AD 认证集成、SSO 单点登录。数据库支持 SQLite 和 PostgreSQL，存储可对接 S3、Azure Blob，支持水平扩展。

    🚀 典型使用场景

    场景一：个人本地 AI 助手

    搭配 Ollama 使用，在本地运行 Llama 3、Mistral、Gemma 等开源模型。所有对话数据完全离线，保障隐私安全。无需联网，随时随地使用 AI 助手。

    场景二：企业内网 AI 中台

    通过 Open WebUI 搭建企业内部 AI 平台，对接公司私有 LLM API 或本地部署的开源模型。支持用户权限管理、对话历史保存、知识库共享，让团队成员安全高效地使用 AI。

    场景三：RAG 知识库问答

    上传公司文档、技术手册、FAQ 到 Open WebUI 知识库，即可通过对话快速检索相关内容。支持 PDF、Word、Markdown 等多种格式，结合 RAG 技术实现精准问答。

    💡 推荐理由

    Open WebUI 是我见过最优雅的自托管 AI 界面。如果你在本地用 Ollama 跑模型，或者想给企业搭一个私有的 AI 聊天平台，Open WebUI 几乎是不二之选。

    它的体验非常接近 ChatGPT——响应式界面、Markdown 渲染、代码高亮、多会话管理，一应俱全。但更重要的是数据主权：你可以让所有 AI 交互发生在自己的服务器上，不用担心对话记录被第三方留存。

    另外，它的 RAG 知识库和联网搜索功能非常实用，让本地模型也能获取实时信息和私有文档内容。如果你关心 AI 隐私和数据安全，Open WebUI 值得一试。

  • 【开源推荐】LangChain：139K+ Stars！AI Agent 工程平台，构建 LLM 应用的标准框架

    【开源推荐】LangChain：139K+ Stars！AI Agent 工程平台，构建 LLM 应用的标准框架

    LangChain

    ⭐ GitHub 139K+ Stars

    LangChain

    AI Agent 工程平台 – 构建 LLM 应用的标准框架

    📝 项目简介

    LangChain 是一个强大的 AI Agent 工程平台，为构建 LLM 驱动的应用提供完整的框架和工具链。它提供模块化的组件、丰富的集成库和灵活的抽象层，让开发者能够快速原型设计、轻松集成外部数据源，并将应用规模化部署到生产环境。无论是简单的聊天机器人还是复杂的多 Agent 系统，LangChain 都能提供最佳实践和技术支撑。

    139K+
    GitHub Stars

    23.1K+
    Forks

    MIT
    开源协议

    Python
    主要语言

    ⚙️ 安装要求

    环境要求

    • Python 3.9+ （推荐 3.10 或更高版本）
    • pip 或 uv 包管理器
    • LLM API Key（OpenAI / Anthropic / Google 等）
    • 可选：向量数据库（Chroma / Pinecone / Qdrant 等）

    快速安装

    Bash
    # 使用 uv 安装（推荐）
uv add langchain

# 或使用 pip
pip install langchain

# 安装特定集成（例如 OpenAI）
pip install langchain-openai

# 安装社区集成（例如 Hugging Face）
pip install langchain-community

    ⭐ 核心功能

    🔗 模块化组件架构

    提供 LLM、Chat Models、Prompt Templates、Chains、Agents、Tools、Memory、Retrievers 等标准化模块，每个组件都可独立使用和组合，支持快速搭建复杂 AI 应用。

    🔌 丰富的集成生态

    支持 100+ 模型提供商（OpenAI、Anthropic、Google、Hugging Face 等）、50+ 向量存储（Chroma、Pinecone、Qdrant、FAISS 等）、30+ 工具集成，开箱即用。

    🤖 强大的 Agent 框架

    内置多种 Agent 类型（ReAct、Plan-and-Execute、OpenAI Tools 等），支持工具调用、记忆管理、多轮对话，可构建具有推理和行动能力的智能 Agent。

    📚 RAG 完整支持

    提供从文档加载、文本分割、向量化到检索的完整 RAG 管道，支持多种文档格式（PDF、HTML、Markdown 等）和检索策略（相似度搜索、MMR、Hybrid 等）。

    🚀 生产就绪工具链

    与 LangSmith 深度集成，提供追踪、评估、调试、监控能力；支持流式输出、异步调用、批量处理，满足高并发生产场景需求。

    💡 典型使用场景

    场景 1

    📊 企业知识库问答系统

    使用 LangChain 的 RAG 能力，将企业文档（PDF、Word、HTML）向量化存储，构建能够准确引用来源的智能问答系统。支持多轮对话、上下文记忆和来源追溯。

    from langchain_community.vectorstores import Chroma
from langchain_openai import OpenAIEmbeddings
from langchain.chains import create_retrieval_chain

# 加载文档并构建向量库
embeddings = OpenAIEmbeddings()
vectorstore = Chroma.from_documents(docs, embeddings)

# 创建检索问答链
retriever = vectorstore.as_retriever()
qa_chain = create_retrieval_chain(retriever, ...)

    场景 2

    🤖 智能客服 Agent

    利用 LangChain 的 Agent 和 Tools 机制，让 AI 能够调用订单查询、物流追踪、退款处理等 API，自动完成复杂的客户服务流程，支持多步骤推理和错误处理。

    from langchain.agents import create_tool_calling_agent
from langchain.tools import Tool

tools = [
    Tool(name="订单查询", func=query_order, ...),
    Tool(name="退款处理", func=process_refund, ...)
]

agent = create_tool_calling_agent(llm, tools, prompt)

    场景 3

    ✍️ 内容生成与摘要

    结合 Prompt Templates 和 Chains，构建自动化的内容生成流水线，支持博客文章、产品描述、会议纪要摘要等场景，可集成到现有 CMS 或自动化工作流中。

    from langchain.chains import LLMChain
from langchain.prompts import PromptTemplate

template = "根据以下要点生成博客文章:\n{points}\n文章风格:{style}"

chain = LLMChain(llm=llm, prompt=PromptTemplate.from_template(template))
result = chain.invoke({"points": "...", "style": "专业且易懂"})

    💝 推荐理由

    LangChain 是我接触过的最成熟的 LLM 应用开发框架，没有之一。它不仅仅是一个库，更是一个完整的 AI Agent 工程平台。

    ✅ 生态极其丰富: 无论你想接入哪个模型、哪个向量库、哪个数据源，几乎都能找到现成的集成，省去了大量重复造轮子的时间。

    ✅ 抽象设计优秀: 从底层的 LLM 调用到高层的 Agent 编排，LangChain 提供了多层次的抽象，既能快速 prototyping，也能精细控制每个环节。

    ✅ 社区活跃度高: 139K+ Stars 不是虚的，GitHub 上每天都有新的讨论、PR 和案例分享，遇到问题几乎都能找到答案。

    ✅ 生产工具完善: LangSmith 的集成让调试和监控变得异常简单，这是很多同类框架做不到的。

    如果你正在考虑用哪个框架来构建 AI 应用，LangChain 绝对是首选。它已经成为了这个领域的”标准”，学习它永远不会错 🚀

    ···

    Tags
    #LangChain
    #AI Agent
    #LLM
    #Python
    #RAG
    #Agent工程

  • 【开源推荐】Qdrant：32.2K+ Stars！Rust 构建的高性能向量数据库，AI 应用的向量检索引擎

    【开源推荐】Qdrant：32.2K+ Stars！Rust 构建的高性能向量数据库，AI 应用的向量检索引擎

    Q
    GitHub 热门 AI 开源项目
    第 29 期

    ⭐ 32.2K+ Stars

    Qdrant —— 为 AI 应用打造的高性能向量数据库

    用 Rust 构建 · 支持稠密/稀疏/多向量 · 生产级分布式部署

    📌 项目简介

    Qdrant 是一个用 Rust 编写的高性能向量数据库和向量搜索引擎，专为新一代 AI 应用设计。它提供生产级服务与便捷 API，支持存储、搜索和管理带附加载荷的向量，是构建 RAG、语义搜索、推荐系统等 AI 应用的理想数据底座。

    32.2K+
    GitHub Stars

    Rust
    核心语言

    97%
    RAM 节省

    ⚙️
    安装要求和过程

    环境要求

    • Docker 20.10+（推荐方式）
    • 或者：Rust 1.70+ 编译环境（源码安装）
    • Python 3.8+（使用 Python 客户端时）
    • 支持 Linux / macOS / Windows (WSL2)

    快速安装（Docker 方式）


    # 1. 拉取并启动 Qdrant（无认证，开发用）
    docker run -p 6333:6333 qdrant/qdrant

    # 2. 访问 Web UI
    open http://localhost:6333/dashboard

    # 3. 使用 Python 客户端
    pip install qdrant-client

    # 4. 源码编译安装（可选）
    git clone https://github.com/qdrant/qdrant.git
    cd qdrant && cargo build --release

    生产部署建议

    • 务必配置 API Key 认证（参考官方安全指南）
    • 使用持久化卷存储向量数据（-v $(pwd)/qdrant_storage:/qdrant/storage）
    • 大规模场景启用分布式模式（需要 etcd / 类似协调服务）
    • 启用 TLS 加密传输

    ⚡
    核心功能

    🔍 多类型向量搜索

    同时支持稠密向量（语义相似度）、稀疏向量（全文搜索）、多向量（ColBERT 等延迟交互模型）搜索，一套系统满足多种检索需求。

    🎯 强大的载荷过滤

    为向量附加任意 JSON 载荷，支持关键词匹配、全文检索、数值范围、地理位置等丰富条件过滤，支持 should / must / must_not 条件组合，精准控制搜索范围。

    🔀 混合搜索

    单查询可组合多个向量，兼顾语义理解和关键词精度，支持倒数排名融合（RRF）、基于分布的分数融合（DBSF）等可配置融合策略，搜索效果更佳。

    💾 低成本存储优化

    内置向量量化能力，可降低最高 97% 的 RAM 占用；支持在搜索速度和精度之间按需权衡；同时支持磁盘存储，大幅降低运行成本。

    🚀 分布式高可用

    支持水平扩展，通过分片和副本实现高可用，可零停机更新或调整集合大小；支持 SIMD 硬件加速和 NVIDIA/AMD GPU 加速索引，性能卓越。

    💡
    典型使用场景

    📚 场景一：RAG 知识库问答

    将文档切片向量化后存入 Qdrant，用户提问时先检索最相关的片段，再送给 LLM 生成答案。Qdrant 的混合搜索和载荷过滤能力，让 RAG 系统既能理解语义，又能精确控制知识范围，是目前最流行的 AI 应用架构之一。

    🛒 场景二：电商语义搜索与推荐

    用户搜索”适合夏天透气的跑步鞋”，传统关键词搜索无法理解意图，而 Qdrant 的语义向量搜索能直接找到最相关的商品。再结合用户行为向量做个性化推荐，可大幅提升转化率和用户体验。

    🖼️ 场景三：图像/音频相似检索

    通过 CLIP 等多模态模型将图片/音频编码为向量，存入 Qdrant 后便可实现”以图搜图”、”相似音乐推荐”等功能。短视频平台、版权图库、人脸检索等场景均有广泛应用。

    💬 推荐理由

    如果你正在构建任何需要”理解语义”的 AI 应用，Qdrant 几乎是不二之选。作为向量数据库赛道的明星项目，它用 Rust 编写，性能和安全都有保障；API 设计简洁直观，Python 客户端几分钟就能上手；最关键的是，它不只是”能跑”，而是真正为生产环境设计——分布式、高可用、量化压缩、硬件加速，这些特性在大规模部署时价值巨大。

    我个人最喜欢它的混合搜索能力：语义向量 + 关键词 BM25 融合，再结合载荷过滤，搜索结果的质量比单纯向量检索高出一大截。加上活跃的开源社区和 Qdrant Cloud 托管选项，无论个人项目还是企业落地，都能找到合适的接入方式。2026 年做 AI 应用，向量数据库是必选项，Qdrant 值得放在你的技术选型清单首位。

    🔖 标签：AI · GitHub · 开源 · 向量数据库 · RAG · LLM · Rust · 语义搜索

    ⏱️ 预计阅读时间：6 分钟 | 更新时间：2026年6月14日

  • 【开源推荐】Dify：145K+ Stars！开源LLM应用开发平台，可视化构建AI工作流与RAG管道

    【开源推荐】Dify：145K+ Stars！开源LLM应用开发平台，可视化构建AI工作流与RAG管道

    Dify：145K+ Stars！开源LLM应用开发平台，可视化构建AI工作流

    TypeScript + Python 全栈 · Docker 一键部署 · 集成数百款LLM模型

    📌 项目简介

    Dify 是一款开源的大语言模型（LLM）应用开发平台，由 LangGenius 团队开发，已加入 Linux 基金会。它具备直观的可视化界面，整合了 AI 工作流、RAG 管道、智能体能力、模型管理和可观测性功能，帮助开发者快速完成从原型到生产环境的落地。截至 2026 年 6 月，Dify 在 GitHub 已获得 145,000+ Stars，是全球最受欢迎的 LLM 应用开发框架之一。

    145K+
    GitHub Stars

    50+
    内置工具集成

    300+
    LLM模型支持

    Apache-2.0
    开源协议

    🔧 安装要求和过程

    方式一：Docker Compose 部署（推荐，最快5分钟上线）

    环境要求：CPU ≥ 2核，内存 ≥ 4GiB，已安装 Docker 和 Docker Compose

    # 克隆仓库
git clone https://github.com/langgenius/dify.git
cd dify/docker

# 复制环境配置
cp .env.example .env

# 启动服务（后台运行）
docker compose up -d

# 访问安装页面
# 浏览器打开 http://localhost/install

    启动后访问 http://localhost/install 完成管理员账号初始化，即可开始使用。

    方式二：从源码部署（适合开发者定制）

    # 后端启动（Python 3.11+）
cd api
poetry install
poetry run flask db upgrade
poetry run flask run --host 0.0.0.0 --port 5001

# 前端启动（Node.js 18+）
cd web
npm install
npm run dev

    方式三：云服务版（无需部署，立即使用）

    直接访问 https://cloud.dify.ai 注册即用，免费版包含 200 次 OpenAI 调用额度。

    ⚡ 核心功能

    🎨 可视化工作流编排

    在画布上通过拖拽节点即可构建复杂的 AI 工作流，支持条件分支、循环、变量传递和并行执行。无需编写代码，产品、运营同学也能搭建生产级 AI 应用。

    🤖 全模型支持 & RAG 管道

    无缝集成 GPT、Claude、Llama3、Mistral、Gemini 等 300+ 专有/开源 LLM，兼容所有 OpenAI API 规范的模型。内置完整的 RAG 管道，支持从 PDF、PPT、Word 等常见文档格式中提取文本并建立知识库。

    🛠️ 智能体 + 50+ 内置工具

    基于 LLM Function Calling 或 ReAct 模式定义智能体，内置 Google 搜索、DALL·E、Stable Diffusion、WolframAlpha 等 50+ 工具，同时支持自定义工具接入，真正让 AI 能”做事”而不仅仅是”说话”。

    📊 Prompt IDE + 可观测性

    提供直观的 Prompt 编写和调试界面，支持对比不同模型性能表现。集成 Opik、Langfuse、Arize Phoenix 等可观测性工具，实时追踪 LLM 推理成本、延迟和准确率，让 AI 应用可监控、可优化。

    🔌 丰富 API & 生态集成

    提供完整的 REST API 和 SDK，支持将 Dify 应用嵌入到自有产品中。同时支持与 LangChain、Semantic Kernel 等框架集成，也可通过 AWS CDK、Terraform、Kubernetes 等方式部署到云端。

    💡 典型使用场景

    🏢

    企业知识库问答

    上传公司文档、产品手册、FAQ 建立知识库，构建基于 RAG 的智能客服或内部知识助手，准确回答员工和客户的提问，减少人工客服压力。

    🤖

    AI 工作流自动化

    用可视化画布编排多步骤 AI 任务：自动抓取网页内容 → 提取关键信息 → 调用 LLM 总结 → 发送邮件通知，全程无需写代码，像搭积木一样构建自动化流程。

    🚀

    快速 AI 产品原型验证

    产品团队在几小时内完成 AI 功能原型设计，通过 Dify 的 Playground 实时测试不同模型效果，快速验证产品想法，大幅缩短从创意到落地的周期。

    🌟 推荐理由

    作为一名开发者，我推荐 Dify 的最大理由是“它把 AI 应用开发从『写代码』变成了『搭积木』”。以前要集成 LLM、做 RAG、写 Agent 逻辑，需要深厚的 Full Stack 和 AI 工程经验；现在用 Dify 的可视化画布，产品、运营甚至非技术同学都能搭建出生产级的 AI 应用。

    另一个亮点是私有化部署能力。对于数据敏感的企业用户，Dify 可以完全部署在内部服务器，数据不出企业内网，同时享受和云服务版一样的功能体验。加上它对国产大模型（如通义千问、文心一言、智谱 GLM）的良好支持，在国内落地场景非常有优势。

    145K+ Stars 不是偶然。Dify 正在成为 AI 应用时代的”WordPress”——让每个人都能轻松拥有自己的 AI 应用。无论你是个人开发者、创业团队还是大型企业，Dify 都值得一试。

    📦 下载地址

    开源协议：Apache-2.0（附加 Dify 开源条款） · 主要语言：TypeScript 51.5% / Python 44.1%

  • 【开源推荐】Open Notebook：29.9K+ Stars！Notebook LM 开源替代品，隐私优先+18家AI模型随意切换

    【开源推荐】Open Notebook：29.9K+ Stars！Notebook LM 开源替代品，隐私优先+18家AI模型随意切换

    📌 项目简介

    Open Notebook 是 Google Notebook LM 的开源替代品，隐私优先、支持自托管，兼容 18+ AI 服务商（OpenAI、Anthropic、Ollama 等），让你完全掌控研究数据，不再受大厂绑定。

    29.9K+
    GitHub Stars

    18+
    AI 服务商

    100%
    数据自主

    MIT
    开源协议

    ⚙️ 安装要求和过程

    环境要求

    • 仅需安装 Docker Desktop（所有平台通用）
    • 支持 Windows / macOS / Linux
    • 需要约 2GB 磁盘空间

    快速安装（3 步搞定）

    # 第1步：下载 docker-compose.yml
    curl -o docker-compose.yml https://raw.githubusercontent.com/lfnovo/open-notebook/main/docker-compose.yml

    # 第2步：修改加密密钥（可选但推荐）
    # 编辑 docker-compose.yml，修改 OPEN_NOTEBOOK_ENCRYPTION_KEY

    # 第3步：启动服务
    docker compose up -d

    # 等待 15-20 秒后访问
    浏览器打开 http://localhost:8502

    安装完成后在浏览器打开 http://localhost:8502 即可使用，AI 密钥可在 Web UI 中配置，无需提前写入配置文件。

    ✨ 核心功能

    🔒
    隐私优先，数据自主

    自托管部署，所有研究数据存储在本地，完全不受 Google 服务器约束。支持 Docker / 云端 / 本地多种部署方式。

    🤖
    18+ AI 服务商兼容

    原生支持 OpenAI、Anthropic、Google、Groq、Ollama、DeepSeek、Mistral、xAI 等 18+ 家，也支持任意 OpenAI 兼容接口（LM Studio 等）。

    🎙️
    专业多角色播客生成

    支持 1-4 个可自定义角色的播客生成，比 Notebook LM 的 2 角色更灵活，可打造个性化内容输出。

    🔍
    全文 + 向量语义双搜索

    所有上传内容同时支持关键词全文检索和向量语义搜索，快速定位研究资料中的关键信息。

    ⚡
    完整 REST API

    提供完整的 REST API 接口，支持全流程程序化调用，可集成到现有工作流或自动化系统中。

    💡 典型使用场景

    场景一：学术研究资料管理

    上传论文 PDF、会议视频、网页资料，让 AI 基于你的资料库进行问答和总结。数据完全本地存储，敏感研究内容不外泄。

    场景二：多模型对比研究

    同时配置 OpenAI、Anthropic、DeepSeek 等多个模型，在同一套资料上对比不同模型的分析能力，选出最适合的模型。

    场景三：团队知识库 + 播客输出

    将团队文档、会议记录导入 Open Notebook，用 AI 生成洞察；还可将研究成果一键转换为多角色播客，方便团队内部分享。

    ⚡ Open Notebook vs Notebook LM

    对比维度 Open Notebook Notebook LM
    数据隐私 ✅ 自托管，完全自主 ❌ 仅 Google 云端
    AI 模型选择 ✅ 18+ 家，含本地模型 ❌ 仅 Google 模型
    播客角色数 ✅ 1-4 个可自定义 ⚠️ 仅 2 个
    API 访问 ✅ 完整 REST API ❌ 无
    成本 ✅ 只需支付 AI 调用费 ⚠️ 免费层 + 月费订阅
    开源定制 ✅ MIT 协议，完全可改 ❌ 封闭系统

    💬 推荐理由

    Google Notebook LM 确实好用，但它有两个痛点：数据在 Google 服务器上，以及只能用 Google 的模型。如果你研究的内容比较敏感，或者想用 DeepSeek / 本地 Ollama 来节省成本，Notebook LM 就没法满足你了。

    Open Notebook 最大的价值就是把控制权还给你：数据存在自己服务器上，想用哪个 AI 就用哪个，甚至可以在完全没有外网的环境里跑本地模型。而且它还有完整 REST API，可以接入自己的自动化流程。

    部署也超级简单，会 Docker 就能跑，三行命令搞定。如果你一直在找 Notebook LM 的平替，这个项目值得一试。开源、免费、不绑架数据，还要什么自行车？

    🤖 已支持 AI 服务商（部分）

    OpenAI
    Anthropic
    Google GenAI
    Groq
    Ollama
    DeepSeek
    Mistral
    xAI (Grok)
    OpenRouter
    Azure OpenAI
    Vertex AI
    MiniMax
    DashScope (Qwen)
    LM Studio

  • 【开源推荐】crawl4ai：68.3K+ Stars！专为LLM设计的网页爬虫，让AI直接读懂网页内容

    【开源推荐】crawl4ai：68.3K+ Stars！专为LLM设计的网页爬虫，让AI直接读懂网页内容

    crawl4ai - LLM友好网页爬虫工具

    crawl4ai – 专为LLM和AI Agent设计的网页爬虫工具 @reference_1@

    📌 项目简介

    crawl4ai 是一款专为LLM和AI Agent设计的开源网页爬虫工具，能将任意网页内容转换为干净的Markdown格式，可直接用于RAG、AI Agent、数据管道等场景，无需依赖任何付费API。

    68.3K+
    GitHub Stars

    Python
    开发语言

    v0.6+
    最新版本

    ⚙️
    安装要求和过程

    环境要求

    • Python ≥ 3.10
    • Playwright（用于异步浏览器控制）
    • 支持 Windows / macOS / Linux

    快速安装（4步搞定）

    # 第1步：安装 crawl4ai
    pip install -U crawl4ai
    # 第2步：配置浏览器依赖
    crawl4ai-setup
    # 第3步：验证安装
    crawl4ai-doctor
    # （可选）如 Playwright 报错，手动安装浏览器
    python -m playwright install chromium

    Docker 部署（生产推荐）

    # 拉取官方镜像
    docker pull unclecode/crawl4ai:latest
    # 启动容器
    docker run -d -p 11235:11235 –name crawl4ai –shm-size=1g unclecode/crawl4ai:latest
    # 访问监控面板
    http://localhost:11235/dashboard

    ⚡
    核心功能

    ① 智能 Markdown 生成

    生成结构清晰、格式准确的干净 Markdown，支持 Fit Markdown 启发式过滤，自动剔除无关噪音内容。支持 BM25 算法过滤，可提取核心信息，更适合 AI 处理。

    ② LLM 驱动的结构化数据提取

    支持所有 LLM（开源/闭源）驱动的结构化数据提取。内置多种分块策略，支持基于用户查询的语义内容匹配，可通过自定义 Schema 从重复页面模式中批量提取结构化 JSON。

    ③ 浏览器深度集成

    支持托管用户自有浏览器，通过 Chrome DevTools 协议实现远程浏览器控制。支持浏览器配置文件持久化（保存认证状态、Cookie），完美支持需要登录的网站爬取。

    ④ 动态页面与反爬对抗

    支持执行 JavaScript、等待异步动态内容加载、处理无限滚动页面。提供隐身模式模拟真实用户行为，支持自定义请求头、Cookie、User-Agent 和代理认证，有效绕过常见反爬限制。

    ⑤ Docker 一键部署 + API 服务

    提供优化后的 Docker 镜像，内置 FastAPI 服务，开箱即用。内置 JWT 令牌认证保障 API 安全，支持大规模生产环境部署，是构建数据采集基础设施的最佳选择。

    💡
    典型使用场景

    场景1：RAG 知识库数据准备

    将网页内容转换为干净 Markdown，作为 RAG 系统的知识库来源。crawl4ai 的 Fit Markdown 功能可自动过滤导航栏、广告、页脚等噪音，只保留核心正文，避免无关内容干扰大模型输出。配合深度爬取（BFS/DFS策略）可批量采集整个网站。

    场景2：AI Agent 实时信息获取工具

    将 crawl4ai 封装为 AI Agent 的工具函数，让 Agent 能够自主爬取所需网页内容。比如用户问”今天有哪些 AI 新闻？”，Agent 可自动爬取新闻网站并提取结构化信息，真正实现 AI 联网能力。

    场景3：大规模数据采集管道

    结合 Docker 部署、浏览器池、缓存机制，搭建大规模高并发网页数据采集系统。内置的浏览器配置文件持久化能力，可保存登录状态实现需要认证的网站批量采集，适合构建企业级数据采集基础设施。

    🚀 30秒快速开始

    Python 代码方式：
    import asyncio
    from crawl4ai import *

    async def main():
    async with AsyncWebCrawler() as crawler:
    result = await crawler.arun(url=”https://example.com”)
    print(result.markdown) # 获取干净 Markdown

    if __name__ == “__main__”:
    asyncio.run(main())

    CLI 命令行方式：
    crwl https://example.com -o markdown
    # 深度爬取，最多10个页面
    crwl https://docs.crawl4ai.com –deep-crawl bfs –max-pages 10

    💝
    推荐理由

    如果你正在构建 RAG 系统或 AI Agent，crawl4ai 是目前开源界最值得关注的网页数据采集工具。它解决了传统爬虫的两个核心痛点：

    第一，真正为 LLM 优化。 传统爬虫输出的是原始 HTML 或杂乱文本，需要大量后处理才能喂给大模型。crawl4ai 直接输出干净、结构化的 Markdown，内置的 Fit Markdown 功能可以智能过滤导航、广告等噪音，让 RAG 召回质量大幅提升。

    第二，对动态页面和反爬场景的支持非常完善。 基于 Playwright 的浏览器控制，可以处理 React/Vue 等前端框架渲染的页面，支持等待异步内容加载、处理无限滚动。隐身模式和浏览器指纹自定义功能，让我在采集一些有反爬机制的网站时也能稳定获取数据。

    最让我惊喜的是它的 Docker 部署方案。 几分钟就能搭建一个带 API 服务的爬取引擎，内置 JWT 认证，可以直接集成到现有数据管道中。对于需要大规模采集的场景，这比手写 Scrapy 爬虫效率高太多了。

    ⭐ 总之，如果你需要为 AI 应用添加网页数据获取能力，crawl4ai 是目前最成熟的开源选择，没有之一。

    📥 下载地址

    License: Apache 2.0 | 作者: UncleCode | 最近更新: 2026年6月

    💡 关注【开源推荐】系列，每周带你发现最值得关注的 AI 开源项目
    ⭐ 如果这篇文章对你有帮助，欢迎在 WordPress 点赞留言！

  • 【开源推荐】markitdown：150K+ Stars！微软开源文档转Markdown神器，LLM管道必备

    【开源推荐】markitdown：150K+ Stars！微软开源文档转Markdown神器，LLM管道必备

    MICROSOFT 开源

    markitdown

    150K+ Stars · 将任意文档一键转换为 Markdown

    Python 3.10+
    MIT 开源
    LLM 友好
    📌 项目简介

    markitdown 是微软出品的一款轻量级 Python 工具，支持将 PDF、PowerPoint、Word、Excel、HTML、CSV、JSON、音频、视频等 数十种文件格式 统一转换为 Markdown 格式，是大模型文档处理管道中的核心基础设施。

    ⚙ 安装要求与过程

    环境要求
    • Python 3.10 及以上版本
    • 推荐使用虚拟环境（venv / uv / conda）
    • pip 21.0+（用于安装可选依赖组）
    快速安装（全格式支持）
    # 全量安装（推荐）
pip install 'markitdown[all]'

# 命令行直接使用
markitdown document.pdf > output.md

# Python API 使用
from markitdown import MarkItDown
md = MarkItDown()
result = md.convert("document.pdf")
print(result.text_content)

    按需安装（减少依赖体积）
    pip install 'markitdown[pdf, docx, pptx]'   # 仅 PDF/Word/PPT
pip install 'markitdown[youtube-transcription]'  # 仅 YouTube 字幕

    ★ 核心功能

    📄 多格式支持
    PDF、Word、PPT、Excel、HTML、CSV、JSON、XML、EPUB、ZIP，覆盖办公全场景

    🖼️ 图片 & 音频
    图片 EXIF 元数据提取 + OCR，音频语音转写，视频字幕自动获取

    🤖 LLM 集成
    可调用 GPT-4V 等大模型为图片/幻灯片生成描述，增强多模态理解

    🔌 插件扩展
    支持第三方插件（如 markitdown-ocr），社区插件标签 #markitdown-plugin

    ☁️ Azure 集成
    支持 Azure Document Intelligence 和 Azure Content Understanding，企业级文档解析能力

    ▶ 典型使用场景

    场景一：RAG 知识库文档预处理

    在构建 RAG（检索增强生成）应用时，需要将企业内部的 PDF 手册、Word 文档、PowerPoint 课件统一转换为 Markdown，再切片嵌入向量数据库。markitdown 一条命令批量处理，保留标题层级和表格结构，大幅提升检索精度。

    for f in docs/*.pdf; do
  markitdown "$f" -o "md/${f%.pdf}.md"
done

    场景二：LLM 文档理解管道

    将用户上传的任意格式文档（简历、合同、报告）转换为 Markdown 后传给 LLM 进行分析、摘要或信息提取。markitdown 的 Markdown 输出对 Token 消耗远低于原始二进制格式，降低成本。

    from markitdown import MarkItDown
md = MarkItDown()
result = md.convert("contract.docx")
response = client.chat.completions.create(
    model="gpt-4o",
    messages=[{"role":"user","content":f"摘要：{result.text_content}"}]
)

    💡 推荐理由

    作为一名经常和 LLM 打交道的开发者，markitdown 已经成为我工具箱里的常驻成员。它的价值在于把”任意文档”变成”LLM 能理解的文本”，这在大模型应用开发中是一个高频且痛点的需求。

    最让我惊喜的是它的格式保留能力——转换后的 Markdown 仍然保留表格结构、标题层级和链接，这直接决定了 RAG 检索的质量。相比之下，很多同类工具转换后就只剩纯文本了。

    来自微软 AutoGen 团队的维护保证，加上 150K+ Stars 的社区验证，这款工具的可靠性和迭代速度都非常值得信赖。如果你正在做任何涉及文档处理的大模型应用，markitdown 绝对是不二之选。

    由 AI 自动整理，更多开源项目介绍持续更新中 🚀

  • 【开源推荐】Cherry Studio：47K+ Stars！多模型AI桌面客户端，一个应用搞定所有大模型

    【开源推荐】Cherry Studio：47K+ Stars！多模型AI桌面客户端，一个应用搞定所有大模型

    🍒 项目名称：Cherry Studio

    ⭐ GitHub Stars：47.1K+

    🏷️ 开源协议：AGPL-3.0

    💻 支持平台：Windows / macOS / Linux

    🔗 GitHub：github.com/CherryHQ/cherry-studio

    🌐 官网：cherry-ai.com

    📝 项目简介

    Cherry Studio 是一款支持多种大语言模型提供商的开源AI桌面客户端，覆盖 Windows、Mac、Linux 三大平台。它提供智能聊天、自主智能体、300+ 预配置助手能力，可统一访问前沿大语言模型，是2026年最值得关注的 AI 生产力工具之一。

    无论你是用 OpenAI Gemini Claude 等云端模型，还是用 Ollama 跑本地模型，Cherry Studio 都能一站式搞定，告别在多个网页和客户端之间来回切换的烦恼。

    Cherry Studio 界面预览

    ⚙️ 安装要求和过程

    环境要求

    • 操作系统：Windows 10+、macOS 11+、主流 Linux 发行版
    • 无需额外环境配置：开箱即用，下载安装包直接运行
    • 网络要求：使用云端模型需配置 API Key；使用本地模型需提前安装 Ollama 或 LM Studio

    快速安装步骤

    1. 访问 GitHub Releases 页面，下载对应系统的安装包
    2. Windows：下载 .exe 安装包，双击运行
    3. macOS：下载 .dmg 文件，拖入 Applications 文件夹
    4. Linux：下载 .AppImage 或 .deb / .rpm 包安装
    5. 启动后，在设置中配置模型 API Key 或连接本地 Ollama

    🌟 核心功能

    🤖 多 LLM 提供商支持

    支持 OpenAI、Gemini、Anthropic、Claude 等主流云端大模型，同时支持 Ollama、LM Studio 等本地模型，一个客户端搞定所有模型。

    🧠 300+ 预配置 AI 助手

    内置丰富领域的专业 AI 助手模板，涵盖编程、写作、翻译、分析等场景，开箱即用，也支持自定义助手创建。

    📄 多格式文档处理

    支持文本、图片、Office 文档、PDF 等多格式文件处理，内置 RAG 知识库能力，让 AI 基于你的文档作答。

    🔌 MCP 协议支持

    支持模型上下文协议（MCP）服务器，可扩展 AI 能力边界，接入专业工具和数据源。

    🎨 可视化与开发工具

    支持 Mermaid 图表可视化、代码语法高亮、全局搜索、话题管理系统，满足专业用户的需求。

    Cherry Studio 功能展示

    🚀 典型使用场景

    场景一：多模型对比测试

    研究者或开发者需要同时对比 GPT-4.1、Claude 4 Opus、Gemini 2.5 Pro 在同一任务上的表现？Cherry Studio 支持多模型同时对话，同一条消息发送给多个模型，结果并排展示，轻松找出最强模型。

    场景二：本地 + 云端混合使用

    日常聊天用免费的本地模型（Ollama + Qwen3），重要任务切换云端前沿模型。Cherry Studio 统一入口管理，无需在多个工具间切换，数据隐私和模型能力兼得。

    场景三：企业知识库问答

    上传公司文档、技术手册到 Cherry Studio 知识库，结合 RAG 技术，让 AI 基于企业内部知识精准作答，打造专属的企业 AI 助手。

    💡 推荐理由

    作为一款开源免费的 AI 桌面客户端，Cherry Studio 最大的价值在于统一——统一了模型入口、统一了对话历史、统一了工具生态。

    在此之前，用 OpenAI 要去网页，用 Claude 要开另一个网页，本地 Ollama 又是命令行，多模型对比更是麻烦。Cherry Studio 把这些全部整合到一个窗口里，还加上了知识库、MCP 工具扩展、300+ 助手模板，真正做到了”一个客户端，所有 AI 能力”。

    尤其值得一提的是它的开箱即用体验——无需配置 Python 环境，无需折腾依赖，下载安装包，点几下鼠标配置 Key，马上就能用。对非技术用户非常友好。

    如果你同时满足以下任意一点，强烈推荐试试 Cherry Studio：

    • 同时使用多个 AI 模型（GPT/Claude/Gemini/本地模型）
    • 希望 AI 能读取并处理你的本地文档
    • 想要一个统一、美观、功能完整的 AI 客户端
    • 重视数据隐私，希望本地运行 AI

    📥 下载地址

    🍒 GitHub 仓库
    🌐 官方网站
    📦 下载安装包

    📌 本文由 WorkBuddy AI 自动化任务 定时发布，选题自 GitHub 热门 AI 开源项目。欢迎关注本站「开源项目」栏目，每周精选优质 AI 开源工具深度介绍。

  • ChatGPT Retrieval Plugin：20k+ Stars！RAG鼻祖项目，让ChatGPT拥有外部知识

    ChatGPT Retrieval Plugin：20k+ Stars！RAG鼻祖项目，让ChatGPT拥有外部知识

    📦 项目简介

    chatgpt-retrieval-plugin 是 OpenAI 官方开源的 ChatGPT 检索插件模板，它是 RAG（检索增强生成） 领域的鼻祖级项目，让 ChatGPT 能够访问自定义数据源。

    这个项目展示了如何让大模型动态访问外部知识库，而不是仅仅依赖训练数据。它是现在所有 RAG 应用的”祖师爷”。

    ⚙️ 安装要求和过程

    环境要求

    • Python：3.8+（推荐 3.10+）
    • 向量数据库：Pinecone / Weaviate / Qdrant（任选其一）
    • OpenAI API Key：必需（用于 Embedding 和 ChatGPT）
    • 内存：建议 8GB+（本地测试可降级）

    快速安装步骤

    # 1. 克隆项目
git clone https://github.com/openai/chatgpt-retrieval-plugin.git
cd chatgpt-retrieval-plugin

# 2. 安装依赖
pip install -r requirements.txt

# 3. 配置环境变量
cp .env.example .env
# 编辑 .env，填入你的 OpenAI API Key 和向量数据库配置

# 4. 构建向量索引
python scripts/process_docs.py

# 5. 启动服务
uvicorn server.main:app --reload --port 8000

    安装完成后，在 ChatGPT Plugins 模式中添加本地插件，指向 http://localhost:8000 即可。

    🔥 核心功能

    1. 向量检索（核心能力）

    将文档切片后转化为向量，存储到 Pinecone 等向量数据库。用户提问时，系统自动检索最相关的文档片段，注入到 ChatGPT 的上下文中。

    2. 递归爬取（数据接入）

    内置 scripts/process_docs.py 支持递归爬取网站内容（基于 BeautifulSoup），自动处理 HTML、PDF、Markdown 等多种格式。

    3. 元数据过滤（精准召回）

    支持为文档添加元数据标签（来源、日期、作者等），检索时可根据元数据进行过滤，大幅提升召回精准度。

    4. 插件标准接口（OpenAI 官方规范）

    严格遵循 OpenAI Plugin 规范（/.well-known/ai-plugin.json、/openapi.yaml），可作为开发自定义 ChatGPT 插件的参考模板。

    💡 典型使用场景

    场景一：企业知识库问答

    将公司内部文档（产品手册、API 文档、HR 政策）向量化后接入 ChatGPT，员工可以直接用自然语言查询，比如”我们公司的报销流程是什么？”，ChatGPT 会从知识库中精准召回答案。

    价值：替代传统关键词搜索，问答准确率提升 60%+。

    场景二：技术文档助手

    开源项目维护者可以将项目文档（README、Wiki、Issue 解答）接入插件，用户在使用 ChatGPT 时可以直接获得项目相关的准确回答，而不用担心模型产生幻觉。

    价值：降低开源项目的使用门槛，减少重复解答。

    🌟 推荐理由

    这个项目最大的价值不在于代码本身（实际上代码量并不大），而在于它 定义了 RAG 的标准范式：

    1. 文档切片 → Embedding → 向量存储 → 检索召回 → 注入上下文 → 生成回答，这条链路现在是业界标配。
    2. 如果你想做知识库问答、企业 AI 助手、文档 Copilot，这个项目是最好的起点。
    3. 虽然 OpenAI 后来推出了 Assistants API 和 GPTs，底层逻辑依然和这个插件一脉相承。

    值得一提的是，现在很多热门项目（RAGFlow、AnythingLLM、Dify 的知识库功能）都能看到这个项目的影子。可以说，它是 RAG 应用的”黄埔军校”。

    📥 下载地址

    如果你正在做知识库问答或者企业 AI 助手，这个项目值得深入研究。它不仅是 RAG 的鼻祖，更是理解大模型如何”连接外部知识”的最佳教材。