Open WebUI：自托管、可离线运行的 AI 聊天与智能体平台

项目简介

Open WebUI 是一个功能丰富、可完全离线运行的自托管 AI 平台，支持 Ollama 本地模型与 OpenAI 兼容 API，内置 RAG 检索增强、多模型对话、语音/视频通话、智能体与插件生态，是把任意大模型变成”私有 ChatGPT”的一站式前端。（GitHub ⭐ 145K+，Python，Open WebUI License）

安装要求和过程

环境要求：Python 3.11（pip 方式）；或 Docker 20.10+（容器方式）；可搭配 Ollama 本地推理，或任意 OpenAI 兼容 API Key。

方式一 · pip 安装（最简）：

pip install open-webui
open-webui serve   # 访问 http://localhost:8080

方式二 · Docker 一条命令（自带 Ollama，CPU）：

docker run -d -p 3000:8080   -v ollama:/root/.ollama -v open-webui:/app/backend/data   --name open-webui --restart always   ghcr.io/open-webui/open-webui:ollama

方式三 · 仅用 OpenAI API：

docker run -d -p 3000:8080   -e OPENAI_API_KEY=your_secret_key   -v open-webui:/app/backend/data   --name open-webui --restart always   ghcr.io/open-webui/open-webui:main

部署后访问 http://localhost:3000 即可使用；也支持 Docker Compose、Kubernetes（Helm/Kustomize）与 uv 安装。

核心功能

• 广泛的模型与 API 接入：本地 Ollama + 任意 OpenAI 兼容后端（LM Studio、Groq、OpenRouter、vLLM、Mistral 等），支持多模型并行对话、各取所长。
• 本地 RAG 知识库：支持 9 种向量数据库与多种文档解析引擎（Tika、Docling、Mistral OCR 等），混合检索（BM25+向量）+ 重排，用 # 命令把文档/网页直接拉进对话。
• 智能体与插件生态：Filters / Actions / Pipes / Tools / Skills 插件机制，可接 MCP、OpenAPI 工具服务器，把任意基础模型包装成专属 Agent。
• 语音/视频通话与多模态：本地 Whisper 等 STT + 多种 TTS 引擎，内置 DALL·E / Gemini / ComfyUI 图像生成与编辑，支持网页浏览与联网搜索。
• 企业级管理与安全：细粒度 RBAC 与用户组、LDAP / SSO / SCIM 自动配置、PostgreSQL 持久化、横向扩展与 OpenTelemetry 可观测性。

典型使用场景

• 个人本地 AI 助手：用 Ollama 在笔记本上跑 Llama / Mistral，全程离线、数据不出本机，配合 RAG 问答私人文档。
• 团队自托管 AI 中台：公司内部署，接入 OpenAI 或自建 vLLM，统一账号、权限与用量审计，替代公网 SaaS，守住数据隐私。
• 知识库问答与自动化：把 Confluence / Notion / 本地文件建索引，用智能体 + 定时自动化做日报生成、资料检索与多模型 A/B 评估。

推荐理由

我把 Open WebUI 当作”私有 ChatGPT 的标杆”。它最打动我的是真正的离线优先与自托管能力——所有聊天与文档数据都留在自己的机器或服务器，不依赖任何云。RAG 开箱即用，多模型对比、语音通话、插件生态一应俱全，Docker 一条命令就能跑起来，对不想把对话记录交给第三方的用户极其友好。社区极其活跃、更新频繁，是个人和中小团队落地 AI 的最低门槛选择。

下载地址

• 官网 / 文档：openwebui.com ｜ docs.openwebui.com
• GitHub 仓库：github.com/open-webui/open-webui（⭐ 145K+）
• 在线 Demo：demo.openwebui.com