AnythingLLM — 61.7K Stars,全栈本地优先AI应用,私有知识库与AI代理一站式解决方案

AnythingLLM

Mintplex Labs 官方 Logo

📦 项目简介

AnythingLLM 是一款全功能本地优先 AI 应用,集 RAG(检索增强生成)、AI 代理、无代码代理构建器于一体。口号是「停止租用你的智能,用 AnythingLLM 拥有它」。支持连接本地或云端 LLM,导入文档后即可快速开始对话,内置代理、多用户支持、向量数据库和文档管道,无需额外配置。

⭐ 61.7K+ Stars
🍴 6.74K+ Forks
📜 MIT 许可
🏢 Mintplex Labs

⚙️ 安装要求和过程

环境要求

  • Docker(推荐,最简单方式)
  • 或:Node.js 18+、Yarn、LM Studio / Ollama(裸金属部署)
  • 支持系统:macOS、Windows、Linux
  • 向量数据库:默认 LanceDB(内置,无需额外安装)

快速安装 — 桌面版(最简单)

# 访问官网下载对应系统安装包

https://anythingllm.com/download

# macOS

下载 .dmg → 拖入 Applications

# Windows

下载 .exe → 一路 Next

# Linux

下载 .AppImage → chmod +x → 运行

Docker 部署(推荐服务器)

# 拉取最新镜像

docker pull mintplexlabs/anythingllm

# 运行容器

docker run -p 3001:3001 mintplexlabs/anythingllm

# 浏览器访问

http://localhost:3001

✨ 核心功能

🤖 无代码 AI 代理构建器

可视化构建 AI 代理,支持网页浏览、RAG 文档查询、API 调用等技能,无需写代码即可打造专属 AI 助手。

🧠 动态模型路由 + 智能记忆

根据自定义规则自动将对话路由到最合适的模型和提供商;AI 可记住你和工作区的重要信息,实现跨会话持久化上下文。

📚 强大的 RAG 文档处理

支持 PDF、TXT、DOCX、CSV 等多种格式,内置针对大型文档集的优化,比其他聊天 UI 成本更低、响应更快。

👥 多用户与权限管理

Docker 版本支持多用户实例与权限管控,适合团队协作;不会泄露实例安全或知识产权,企业级安全设计。

🔌 MCP 兼容 + 完整开发者 API

支持 Model Context Protocol (MCP),可无缝接入外部工具;提供完整 REST API,支持自定义集成与二次开发。

🎯 典型使用场景

① 私有知识库问答

将公司文档、技术手册、研究报告导入 AnythingLLM,打造私有化部署的 ChatGPT。员工可直接提问,AI 基于内部文档给出准确答案,数据不出企业内网。

② 个人 AI 研究助手

结合本地 Ollama 运行开源模型,导入论文 PDF 和研究笔记,AI 代理可自动联网搜索、整理资料、定时执行研究任务,是研究人员的全能助手。

③ 网站智能客服嵌入

利用可嵌入聊天组件(Docker 版),将定制化的 AI 客服挂到企业官网,基于私有知识库自动回答客户问题,无需人工值守。

💡 推荐理由

作为一款本地优先的全栈 AI 应用,AnythingLLM 最大的优势在于开箱即用——下载桌面版,连接本地 Ollama,导入文档,三步搞定私有知识库。无需 Docker、无需配置向量数据库、无需写代码。

对比同类产品:Dify 偏向可视化工作流编排,AnythingLLM 更聚焦于个人/小团队的文档对话场景,界面更简洁,部署更轻松。MIT 许可意味着你可以自由修改和分发,真正「拥有你的智能」。

特别推荐给:重视数据隐私的开发者、需要内部知识库的中小团队、以及想体验本地 LLM + RAG 完整链路的 AI 爱好者。

📥 下载地址

支持 macOS / Windows / Linux | Docker 镜像可用 | 自托管部署指南完备

🛠️ 技术栈

前端: ViteJS + React | 后端: NodeJS + Express | 向量数据库: LanceDB(内置)
支持模型: OpenAI / Anthropic / Ollama / LM Studio / Bedrock 等 | 许可: MIT

评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注