> [!NOTE]
> 我们同时也在开发 [Open Computer](../open-computer)，为 AI 智能体提供完整的计算机运行环境。
>
> 这将把 AnythingLLM 的智能体能力提升到新的高度，并带来全新的 AI 智能体使用范式。
>
> ⭐ 为本仓库点亮 Star 以获取最新动态！
AnythingLLM： 您一直在寻找的全方位 AI 应用程序。
与您的文档聊天，使用 AI 智能体，高度可配置，支持多用户，无需繁琐设置。
|
|
文档
|
托管实例
English · 简体中文 · 日本語 · Türkçe · فارسی
👉 适用于桌面端（Mac、Windows 和 Linux）的 AnythingLLM！立即下载
与您的文档聊天。使用 AI 智能体自动化复杂工作流。高度可配置、支持多用户、经过实战检验——默认本地运行，零配置摩擦。
观看演示视频！
[](https://youtu.be/f95rGD9trL0)
### 产品概览
AnythingLLM 是一款全方位 AI 应用程序，让您毫无妥协地构建私有的、功能完备的 ChatGPT。接入您喜爱的本地或云端 LLM，导入您的文档，几分钟内即可开始聊天。开箱即用即可获得内置智能体、多用户支持、向量数据库和文档处理管道——无需额外配置。
AnythingLLM 还支持多用户，您可以控制每个用户的访问权限和使用体验，同时不会损害实例的安全性、隐私性或您的知识产权。
## AnythingLLM 的酷炫特性
- [动态模型路由](https://docs.anythingllm.com/model-router/overview) - 根据您定义的规则，自动将聊天路由到最合适的提供商与模型。
- [自动与用户管理的记忆](https://docs.anythingllm.com/features/memories) - 让您的 LLM 记住关于您或您工作区的重要信息。
- [定时任务](https://docs.anythingllm.com/scheduled-jobs/overview) - 以 cron 计划运行周期性任务或提示词，并具备完整的智能体能力。
- [智能技能选择](https://docs.anythingllm.com/agent/intelligent-tool-selection) 为您的模型启用**无限**工具，同时将每次查询的 token 用量最多降低 80%
- [无代码 AI 智能体构建器](https://docs.anythingllm.com/agent-flows/overview)
- [兼容 MCP](https://docs.anythingllm.com/mcp-compatibility/overview)
- [多模态支持（闭源与开源 LLM 均可！）](https://docs.anythingllm.com/features/language-models)
- [自定义 AI 智能体](https://docs.anythingllm.com/agent/custom/introduction)
- 👤 多用户实例支持与权限管理 _仅限 Docker 版本_
- 🦾 工作区内的智能体（浏览网页等）
- 💬 [为您的网站定制的可嵌入聊天组件](https://github.com/Mintplex-Labs/anythingllm-embed/blob/main/README.md) _仅限 Docker 版本_
- 📖 支持多种文档类型（PDF、TXT、DOCX 等）
- 直观的聊天界面，支持拖放上传与来源引用。
- 可用于任意云端部署的生产级方案。
- 兼容所有主流的[闭源与开源 LLM 提供商](#支持的-llm嵌入模型语音模型和向量数据库)。
- 针对大型文档集的内置优化——相比其他聊天界面成本更低、响应更快。
- 面向自定义集成的完整开发者 API！
- ……以及更多功能——几分钟内完成安装，亲自体验。
### 支持的 LLM、嵌入模型、语音模型和向量数据库
**大语言模型（LLMs）：**
- [Any open-source llama.cpp compatible model](/server/storage/models/README.md#text-generation-llm-selection)
- [OpenAI](https://openai.com)
- [OpenAI (Generic)](https://openai.com)
- [Azure OpenAI](https://azure.microsoft.com/en-us/products/ai-services/openai-service)
- [AWS Bedrock](https://aws.amazon.com/bedrock/)
- [Anthropic](https://www.anthropic.com/)
- [NVIDIA NIM (chat models)](https://build.nvidia.com/explore/discover)
- [Google Gemini Pro](https://ai.google.dev/)
- [Ollama (chat models)](https://ollama.ai/)
- [LM Studio (all models)](https://lmstudio.ai)
- [LocalAI (all models)](https://localai.io/)
- [Together AI (chat models)](https://www.together.ai/)
- [Fireworks AI (chat models)](https://fireworks.ai/)
- [Perplexity (chat models)](https://www.perplexity.ai/)
- [OpenRouter (chat models)](https://openrouter.ai/)
- [DeepSeek (chat models)](https://deepseek.com/)
- [Mistral](https://mistral.ai/)
- [Groq](https://groq.com/)
- [Cohere](https://cohere.com/)
- [KoboldCPP](https://github.com/LostRuins/koboldcpp)
- [LiteLLM](https://github.com/BerriAI/litellm)
- [Text Generation Web UI](https://github.com/oobabooga/text-generation-webui)
- [Apipie](https://apipie.ai/)
- [xAI](https://x.ai/)
- [Z.AI (chat models)](https://z.ai/model-api)
- [Novita AI (chat models)](https://novita.ai/model-api/product/llm-api?utm_source=github_anything-llm&utm_medium=github_readme&utm_campaign=link)
- [PPIO](https://ppinfra.com?utm_source=github_anything-llm)
- [Gitee AI](https://ai.gitee.com/)
- [Moonshot AI](https://www.moonshot.ai/)
- [Microsoft Foundry Local](https://github.com/microsoft/Foundry-Local)
- [CometAPI (chat models)](https://www.cometapi.com/)
- [llmman](https://github.com/llmmanorg/llmman)
- [PrivateModeAI (chat models)](https://privatemode.ai/)
- [SambaNova Cloud (chat models)](https://cloud.sambanova.ai/)
- [Lemonade by AMD](https://lemonade-server.ai)
- [Minimax](https://platform.minimax.io)
- [Cerebras (chat models)](https://www.cerebras.ai/)
- [oMLX](https://github.com/jundot/omlx)
**嵌入模型：**
- [AnythingLLM Native Embedder](/server/storage/models/README.md) (default)
- [OpenAI](https://openai.com)
- [Azure OpenAI](https://azure.microsoft.com/en-us/products/ai-services/openai-service)
- [Gemini](https://ai.google.dev/)
- [LocalAI (all)](https://localai.io/)
- [Ollama (all)](https://ollama.ai/)
- [LM Studio (all)](https://lmstudio.ai)
- [Lemonade](https://lemonade-server.ai)
- [OpenRouter](https://openrouter.ai/)
- [LiteLLM](https://github.com/BerriAI/litellm)
- [Cohere](https://cohere.com/)
- [Voyage AI](https://www.voyageai.com/)
- [Mistral](https://mistral.ai/)
- Generic OpenAI-compatible embedding APIs
**音频转录模型：**
- [AnythingLLM Built-in](https://github.com/Mintplex-Labs/anything-llm/tree/master/server/storage/models#audiovideo-transcription) (default)
- [OpenAI](https://openai.com/)
**TTS（文本转语音）支持：**
- Native Browser Built-in (default)
- [PiperTTSLocal - runs in browser](https://github.com/rhasspy/piper)
- [OpenAI TTS](https://platform.openai.com/docs/guides/text-to-speech#voice-options)
- [ElevenLabs](https://elevenlabs.io/)
- Any OpenAI Compatible TTS service.
**STT（语音转文本）支持：**
- 浏览器原生内置（默认）
**向量数据库：**
- [LanceDB](https://github.com/lancedb/lancedb) (default)
- [PGVector](https://github.com/pgvector/pgvector)
- [Astra DB](https://www.datastax.com/products/datastax-astra)
- [Pinecone](https://pinecone.io)
- [Chroma & ChromaCloud](https://trychroma.com)
- [Weaviate](https://weaviate.io)
- [Qdrant](https://qdrant.tech)
- [Milvus](https://milvus.io)
- [Zilliz](https://zilliz.com)
### 技术概览
本单一仓库由六个主要部分组成：
- `frontend`: 一个 viteJS + React 前端，您可以运行它来轻松创建和管理 LLM 可以使用的所有内容。
- `server`: 一个 NodeJS express 服务器，处理所有交互并负责向量数据库管理与 LLM 交互。
- `collector`: NodeJS express 服务器，用于从 UI 处理和解析文档。
- `docker`: Docker 指令、构建流程以及从源码构建的相关信息。
- `embed`: 用于生成和创建[网页嵌入组件](https://github.com/Mintplex-Labs/anythingllm-embed)的子模块。
- `browser-extension`: 用于 [Chrome 浏览器扩展](https://github.com/Mintplex-Labs/anythingllm-extension)的子模块。
## 🛳 自托管
Mintplex Labs 与社区维护了多种部署方式、脚本和模板，您可以使用它们在本地运行 AnythingLLM。请参阅下表，了解如何在您偏好的环境中部署或自动部署。
| Docker | AWS | GCP | Digital Ocean | Render.com |
|----------------------------------------|----|-----|---------------|------------|
| [![Deploy on Docker][docker-btn]][docker-deploy] | [![Deploy on AWS][aws-btn]][aws-deploy] | [![Deploy on GCP][gcp-btn]][gcp-deploy] | [![Deploy on DigitalOcean][do-btn]][do-deploy] | [![Deploy on Render.com][render-btn]][render-deploy] |
| Railway | RepoCloud | Elestio | Northflank | Sealos |
| --------------------------------------------------- | --------------------------------------------------------- | --------------------------------------------------- | ------------------------------------------------------------ | ---------------------------------------------------- |
| [![Deploy on Railway][railway-btn]][railway-deploy] | [![Deploy on RepoCloud][repocloud-btn]][repocloud-deploy] | [![Deploy on Elestio][elestio-btn]][elestio-deploy] | [![Deploy on Northflank][northflank-btn]][northflank-deploy] | [![Deploy on Sealos][sealos-btn]][sealos-deploy] |
[或者不使用 Docker 搭建生产环境的 AnythingLLM 实例 →](../BARE_METAL.md)
## 如何设置开发环境
- `yarn setup` 填充应用各部分所需的 `.env` 文件（在仓库根目录执行）。
- 请先填写这些文件再继续。确保 `server/.env.development` 已填写，否则程序无法正常运行。
- `yarn dev:server` 在本地启动服务器（在仓库根目录执行）。
- `yarn dev:frontend` 在本地启动前端（在仓库根目录执行）。
- `yarn dev:collector` 然后运行文档收集器（在仓库根目录执行）。
[了解文档](../server/storage/documents/DOCUMENTS.md)
## 远程信息收集与隐私保护
由 Mintplex Labs Inc 开发的 AnythingLLM 包含一项收集匿名使用信息的遥测功能。
有关 AnythingLLM 遥测与隐私保护的更多信息
### 为什么收集信息？
我们使用这些信息来帮助我们理解 AnythingLLM 的使用情况，帮助我们确定新功能和错误修复的优先级，并帮助我们提升 AnythingLLM 的性能与稳定性。
### 怎样关闭
在服务器或 Docker 的 .env 设置中将 `DISABLE_TELEMETRY` 设为 "true" 即可退出遥测。您也可以在应用内操作：侧边栏 > `隐私` > 关闭遥测。
### 你们明确跟踪哪些信息？
我们只会跟踪有助于我们做出产品和路线图决策的使用细节，具体包括：
- 您的安装类型（Docker 或桌面版）
- 文档被添加或移除时。不包含任何_关于_文档本身的信息，仅记录该事件发生过。这让我们了解使用情况。
- 使用中的向量数据库类型。这有助于我们在该提供商发布更新时确定改动的优先级。
- 使用中的 LLM 提供商与模型标签。这有助于我们在该提供商或模型（或两者组合）发布更新时确定改动的优先级，例如：推理模型与常规模型、多模态模型等。
- 聊天被发送时。这是最常规的“事件”，让我们了解本项目在所有安装中的日常活跃度。同样，只发送该**事件**本身——我们不掌握聊天的性质或内容。
您可以通过查找所有调用 `Telemetry.sendTelemetry` 的位置来验证这些声明。此外，如果启用，这些事件会写入输出日志，因此您也可以看到具体发送了哪些数据。**不会收集 IP 或其他身份识别信息**。遥测服务提供方为 [PostHog](https://posthog.com/) —— 一个开源的遥测数据收集服务。
我们非常重视隐私，希望您理解：我们想了解工具的使用方式，同时又不想用烦人的弹窗问卷打扰您，这样才能打造真正值得使用的产品。这些匿名数据_绝不会_与任何第三方共享。
[在源代码中查看所有遥测事件](https://github.com/search?q=repo%3AMintplex-Labs%2Fanything-llm%20.sendTelemetry(&type=code)
### 其他出站连接
即使您关闭了遥测，仍会看到指向以下服务的出站连接：
- 如果使用外部工具、LLM、嵌入模型或向量数据库，您仍会看到指向相应服务提供商的出站连接。
- `cdn.anythingllm.com` 用于从我们的镜像 CDN 拉取模型。这不会被遥测跟踪，并且对处于 VPN 受限地区的用户很有帮助。
- `github/githubusercontent.com` 会从这些域名下载一些扁平文件，用于上下文窗口缓存。
基本上，如果关闭遥测，我们不会收集任何信息。但根据您的配置，您仍可能看到出站连接，并需遵守相应服务提供商的服务条款。
## 👋 参与贡献
- [为 AnythingLLM 做贡献](../CONTRIBUTING.md) - 如何为 AnythingLLM 做贡献。
## 🌟 贡献者们
[](https://github.com/mintplex-labs/anything-llm/graphs/contributors)
[](https://star-history.com/#mintplex-labs/anything-llm&Date)
## 🔗 更多产品
- **[AnythingLLM Mobile（开源许可）][anythingllm-mobile]：** 同样的 AnythingLLM 本地设备体验，现在就在您的手机上。
- **[AnythingLLM 浏览器扩展][anythingllm-extension]：** 让您在浏览器中使用 AnythingLLM 的浏览器扩展。
- **[AnythingLLM Embed][anythingllm-embed]：** 让您将 AnythingLLM 嵌入自己网站的组件。
[![][back-to-top]](#readme-top)
---
版权所有 © 2026 [Mintplex Labs][profile-link]。
本项目采用 [MIT](../LICENSE) 许可证。
[back-to-top]: https://img.shields.io/badge/-BACK_TO_TOP-222628?style=flat-square
[profile-link]: https://github.com/mintplex-labs
[anythingllm-mobile]: https://github.com/Mintplex-Labs/anythingllm-mobile
[anythingllm-extension]: https://github.com/Mintplex-Labs/anythingllm-extension
[anythingllm-embed]: https://github.com/Mintplex-Labs/anythingllm-embed
[docker-btn]: ../images/deployBtns/docker.png
[docker-deploy]: ../docker/HOW_TO_USE_DOCKER.md
[aws-btn]: ../images/deployBtns/aws.png
[aws-deploy]: ../cloud-deployments/aws/cloudformation/DEPLOY.md
[gcp-btn]: https://deploy.cloud.run/button.svg
[gcp-deploy]: ../cloud-deployments/gcp/deployment/DEPLOY.md
[do-btn]: https://www.deploytodo.com/do-btn-blue.svg
[do-deploy]: ../cloud-deployments/digitalocean/terraform/DEPLOY.md
[render-btn]: https://render.com/images/deploy-to-render-button.svg
[render-deploy]: https://render.com/deploy?repo=https://github.com/Mintplex-Labs/anything-llm&branch=render
[render-btn]: https://render.com/images/deploy-to-render-button.svg
[render-deploy]: https://render.com/deploy?repo=https://github.com/Mintplex-Labs/anything-llm&branch=render
[railway-btn]: https://railway.app/button.svg
[railway-deploy]: https://railway.app/template/HNSCS1?referralCode=WFgJkn
[repocloud-btn]: https://d16t0pc4846x52.cloudfront.net/deploylobe.svg
[repocloud-deploy]: https://repocloud.io/details/?app_id=276
[elestio-btn]: https://elest.io/images/logos/deploy-to-elestio-btn.png
[elestio-deploy]: https://elest.io/open-source/anythingllm
[northflank-btn]: https://assets.northflank.com/deploy_to_northflank_smm_36700fb050.svg
[northflank-deploy]: https://northflank.com/stacks/deploy-anythingllm
[sealos-btn]: https://sealos.io/Deploy-on-Sealos.svg
[sealos-deploy]: https://sealos.io/products/app-store/anything-llm