标签: AnythingLLM

  • AnythingLLM — 61.7K Stars,全栈本地优先AI应用,私有知识库与AI代理一站式解决方案

    AnythingLLM

    Mintplex Labs 官方 Logo

    📦 项目简介

    AnythingLLM 是一款全功能本地优先 AI 应用,集 RAG(检索增强生成)、AI 代理、无代码代理构建器于一体。口号是「停止租用你的智能,用 AnythingLLM 拥有它」。支持连接本地或云端 LLM,导入文档后即可快速开始对话,内置代理、多用户支持、向量数据库和文档管道,无需额外配置。

    ⭐ 61.7K+ Stars
    🍴 6.74K+ Forks
    📜 MIT 许可
    🏢 Mintplex Labs

    ⚙️ 安装要求和过程

    环境要求

    • Docker(推荐,最简单方式)
    • 或:Node.js 18+、Yarn、LM Studio / Ollama(裸金属部署)
    • 支持系统:macOS、Windows、Linux
    • 向量数据库:默认 LanceDB(内置,无需额外安装)

    快速安装 — 桌面版(最简单)

    # 访问官网下载对应系统安装包

    https://anythingllm.com/download

    # macOS

    下载 .dmg → 拖入 Applications

    # Windows

    下载 .exe → 一路 Next

    # Linux

    下载 .AppImage → chmod +x → 运行

    Docker 部署(推荐服务器)

    # 拉取最新镜像

    docker pull mintplexlabs/anythingllm

    # 运行容器

    docker run -p 3001:3001 mintplexlabs/anythingllm

    # 浏览器访问

    http://localhost:3001

    ✨ 核心功能

    🤖 无代码 AI 代理构建器

    可视化构建 AI 代理,支持网页浏览、RAG 文档查询、API 调用等技能,无需写代码即可打造专属 AI 助手。

    🧠 动态模型路由 + 智能记忆

    根据自定义规则自动将对话路由到最合适的模型和提供商;AI 可记住你和工作区的重要信息,实现跨会话持久化上下文。

    📚 强大的 RAG 文档处理

    支持 PDF、TXT、DOCX、CSV 等多种格式,内置针对大型文档集的优化,比其他聊天 UI 成本更低、响应更快。

    👥 多用户与权限管理

    Docker 版本支持多用户实例与权限管控,适合团队协作;不会泄露实例安全或知识产权,企业级安全设计。

    🔌 MCP 兼容 + 完整开发者 API

    支持 Model Context Protocol (MCP),可无缝接入外部工具;提供完整 REST API,支持自定义集成与二次开发。

    🎯 典型使用场景

    ① 私有知识库问答

    将公司文档、技术手册、研究报告导入 AnythingLLM,打造私有化部署的 ChatGPT。员工可直接提问,AI 基于内部文档给出准确答案,数据不出企业内网。

    ② 个人 AI 研究助手

    结合本地 Ollama 运行开源模型,导入论文 PDF 和研究笔记,AI 代理可自动联网搜索、整理资料、定时执行研究任务,是研究人员的全能助手。

    ③ 网站智能客服嵌入

    利用可嵌入聊天组件(Docker 版),将定制化的 AI 客服挂到企业官网,基于私有知识库自动回答客户问题,无需人工值守。

    💡 推荐理由

    作为一款本地优先的全栈 AI 应用,AnythingLLM 最大的优势在于开箱即用——下载桌面版,连接本地 Ollama,导入文档,三步搞定私有知识库。无需 Docker、无需配置向量数据库、无需写代码。

    对比同类产品:Dify 偏向可视化工作流编排,AnythingLLM 更聚焦于个人/小团队的文档对话场景,界面更简洁,部署更轻松。MIT 许可意味着你可以自由修改和分发,真正「拥有你的智能」。

    特别推荐给:重视数据隐私的开发者、需要内部知识库的中小团队、以及想体验本地 LLM + RAG 完整链路的 AI 爱好者。

    📥 下载地址

    支持 macOS / Windows / Linux | Docker 镜像可用 | 自托管部署指南完备

    🛠️ 技术栈

    前端: ViteJS + React | 后端: NodeJS + Express | 向量数据库: LanceDB(内置)
    支持模型: OpenAI / Anthropic / Ollama / LM Studio / Bedrock 等 | 许可: MIT