LibreChat：统一多模型、Agents 与代码执行的自托管聊天平台
一个给团队自托管的多模型 AI 聊天平台，把 Agents、MCP 和代码执行放进同一界面。
GitHub danny-avila/LibreChat 更新 2026-09-16 分支 main 星标 43.8K 分叉 9.0K
TypeScript 多模型聊天 MCP Code Interpreter 自托管

🧭 决策指南

为什么现在热： 当日新增 254 星；README 同时覆盖 OpenAI、Anthropic、Gemini、MCP、Agents、Code Interpreter 和自托管，材料显示的关注点集中在多模型整合与 Agent 能力，但无法仅凭材料确定具体上榜原因。

适合，如果你

  • 你要在一个界面切换 OpenAI、Anthropic、Vertex AI 和 Ollama。
    README「AI Model Selection」列出这些提供商，并支持 Local & Remote AI Providers。
  • 你的 Agent 需要 MCP Servers、Skills、Subagents 或 Code Interpreter。
    README「Agents & Tools Integration」明确列出 MCP、Skills、Subagents 和代码执行。
  • 你要自托管多用户服务，并需要 OAuth2、LDAP、Email Login 和 Admin Panel。
    README「Multi-User & Secure Access」和「Admin Panel」分别列出认证与用户、角色管理。

不适合，如果你

  • 你要求 Attached Code Workspaces 具备稳定的生产级保证。
    README 将 Attached Code Workspaces 标注为 highly experimental。
  • 你只需要单一模型客户端，不需要 MCP、Agents 或多提供商切换。
    README 的核心功能覆盖多提供商、Agents、MCP、Code Interpreter 和模型切换。
  • 你不能接受 release candidate 版本作为当前最新版本。
    项目元数据显示最新版本为 v0.8.8-rc3。

前置条件

  • 需要能够部署 self-hosted AI chat platform。
  • 需要配置至少一个 AI 提供商，例如 OpenAI、Anthropic、Google 或 Ollama。
  • 若使用 Custom Endpoints，需要一个 OpenAI-compatible API；README 说明 no proxy required。
  • 若使用多服务器 Resumable Streams，需要 Redis。
  • 若使用管理能力，需要接受 Docker Compose stacks 提供的 Admin Panel 部署方式。

要注意

  • 启用 Attached Code Workspaces 时会进入 highly experimental 功能范围。
    README「Agents & Tools Integration」明确标注 Attached Code Workspaces 为 highly experimental。
  • Agent Plugins 不是稳定功能，README 使用 experimentally bundle 描述。
    README「Agent Plugins」条目标注其为 experimentally bundle deployment Skills 和 MCP servers。
  • 跨服务器恢复响应依赖 Redis，而不是单服务器默认能力。
    README「Resumable Streams」说明水平扩展部署使用 Redis。

替代方案

  • 单一厂商官方 AI 客户端：只使用 OpenAI 或 Anthropic 等单一提供商，且不需要自托管、MCP 或多用户管理时更合适。
    通用领域知识
  • 轻量 OpenAI-compatible Web UI：只需要一个 OpenAI-compatible API 的基础聊天界面，不需要 Agents、Code Interpreter 或 OAuth2/LDAP 时更合适。
    README「AI Model Selection」与「Multi-User & Secure Access」

材料未说明

  • README 材料没有给出 Docker Compose 的实际启动命令。
  • 没有说明 Node.js、Go、数据库或 Redis 的具体版本要求。
  • 没有说明 OpenAI、Anthropic、Ollama 等提供商的密钥配置格式。
  • 没有给出 Code Interpreter 沙箱的 CPU、内存或并发限制。
  • 没有给出 OAuth2、LDAP、Email Login 的具体配置示例。
  • 没有给出 v0.8.8-rc3 相对稳定版的变更与兼容性说明。
  • 没有提供 Agents、MCP Servers 和 Subagents 的端到端部署步骤。

💡 深度解析

6
适合 我们同时维护 OpenAI、Anthropic、Azure、AWS Bedrock 和 DeepSeek 接入，还要保留一个自定义 OpenAI-compatible Endpoint；我能用 LibreChat 统一模型和 Preset，而不必为每家服务商单独做聊天前端吗？
适合读者： 需要在 OpenAI、Anthropic、Azure、AWS Bedrock 和 DeepSeek 之间切换，并已有 OpenAI-compatible API 的集成开发团队

适合，因为 LibreChat 的主要价值正是把多供应商和自定义 Endpoint 放进同一个 ChatGPT 风格界面，但它不能抹平各模型的能力差异。

  • README 列出 Anthropic、AWS Bedrock、OpenAI、Azure OpenAI、Google、Vertex AI 和 Responses API。
  • README 允许使用任意 OpenAI-compatible API，且注明无需代理。
  • Presets 支持创建、保存、分享，并可在对话中切换 AI Endpoint 和 Preset。
  • 项目数据将 DeepSeek、Anthropic、AWS、OpenAI、Responses API、Azure、Groq、Mistral 和 OpenRouter列为项目描述中的支持对象。

这能减少重复开发界面、会话和模型切换逻辑；但工具调用、视觉、文件、上下文长度、流式行为和提示词兼容性仍需按供应商分别验证。README 未说明跨供应商配置迁移、统一计费统计和能力自动降级机制。

  • README「AI Model Selection」：Anthropic、AWS Bedrock、OpenAI、Azure OpenAI、Google、Vertex AI 和 OpenAI Responses API
  • README「AI Model Selection」：Use any OpenAI-compatible API with LibreChat, no proxy required
  • README「Presets & Context Management」：Switch between AI Endpoints and Presets mid-chat
  • 项目数据 description：DeepSeek、Anthropic、AWS、OpenAI、Responses API、Azure、Groq、Mistral、OpenRouter
材料未说明：README 未说明不同供应商之间是否存在统一的错误码、计费和能力发现接口；README 未提供所有 Endpoint 配置项的完整迁移格式
适合 我想为团队创建可复用的 SKILL.md、接入 MCP 工具，并让 Subagents 分担任务；同时需要 Python、Node.js 和 Go 代码执行。LibreChat 适合做这个 Agent 工作台吗？
适合读者： 需要通过 MCP、Skills、Subagents 和 Code Interpreter 构建内部自动化助手的 Agent 开发者

适合，因为 README 同时覆盖了可复用指令、MCP 工具、子 Agent、文件搜索和隔离代码执行，能力组合与该工作台需求直接匹配。

  • Skills 使用可复用的 SKILL.md 指令包，并支持手动、自动或始终启用的 Agent 工作流。
  • Agents 可使用 MCP Servers、tools、file search 和 code execution；Subagents 能在独立上下文窗口中委派聚焦任务。
  • Agent Management API 可用部署绑定的 OIDC 客户端自动化 Agent、文件和 Skill 管理。
  • Code Interpreter 沙箱支持 Python、Node.js（JS/TS）、Go、C/C++、Java、PHP、Rust 和 Fortran。

不过，Attached Code Workspaces 被 README 标为 highly experimental；MCP、Actions 和代码执行也会扩大攻击面并增加 Token、延迟和失败传播风险。README 未说明每种 MCP 工具的权限审批、资源限制和跨 Agent 调用上限。

  • README「Agents & Tools Integration」：reusable `SKILL.md` instruction bundles
  • README「Agents & Tools Integration」：MCP Servers、tools、file search、code execution 和 Subagents
  • README「Agents & Tools Integration」：Agent Management API with deployment-bound OIDC clients
  • README「Code Interpreter API」：支持 Python、Node.js、Go、C/C++、Java、PHP、Rust、Fortran
  • README「Agents & Tools Integration」：Attached Code Workspaces marked highly experimental
材料未说明：README 未说明 MCP 工具的逐项授权、沙箱网络策略和资源配额配置；README 未说明 Subagents 的最大嵌套深度、并发限制和失败重试行为
适合 我需要让用户在同一会话中上传图片和文件、调用 GPT-4o、Claude 3 或 Gemini 分析，再生成 React、HTML、Mermaid 和图像；LibreChat 能覆盖这条工作流吗？
适合读者： 需要处理图片、文档和代码产物，并同时使用 GPT-4o、Claude 3、Gemini、DALL-E 3 和 Stable Diffusion 的多模态应用开发者

适合，README 对多模态输入、文件对话、代码产物和图像生成都有直接支持，但最终效果仍取决于所选模型和外部服务。

  • Multimodal & File Interactions 列出 Claude 3、GPT-4.5、GPT-4o、o1、Llama-Vision 和 Gemini 的图像上传与分析。
  • 同一章节支持使用 Custom Endpoints、OpenAI、Azure、Anthropic、AWS Bedrock 和 Google 与文件对话。
  • Code Artifacts 能在聊天中生成 React、HTML 和 Mermaid，并预览或导出 Mermaid 为 SVG、PNG。
  • Image Generation & Editing 支持 GPT-Image-1、DALL-E 3/2、Stable Diffusion、Flux 和 MCP 图像服务。

所以它适合作为统一的多模态工作台，而不是保证所有模型都具备相同的视觉、文件、代码和图像能力。README 未给出各模型的文件类型限制、最大上传大小、生成式 UI 的执行隔离方式，以及图像服务的成本和数据保留规则。

  • README「Multimodal & File Interactions」：Claude 3、GPT-4.5、GPT-4o、o1、Llama-Vision 和 Gemini
  • README「Multimodal & File Interactions」：Chat with Files using Custom Endpoints、OpenAI、Azure、Anthropic、AWS Bedrock 和 Google
  • README「Generative UI with Code Artifacts」：create React, HTML, and Mermaid content
  • README「Image Generation & Editing」：GPT-Image-1、DALL-E、Stable Diffusion、Flux 和 MCP
材料未说明：README 未说明各模型支持的文件类型、上传大小和上下文限制；README 未说明生成式 UI 预览或导出过程是否执行用户生成代码；README 未说明图像服务的实际成本、数据保留和区域限制
适合 我需要支持多标签页和多设备同步，并从单服务器扩展到 Redis 横向部署；用户断线后还要继续接收 AI 流式响应。LibreChat 能满足这个部署约束吗？
适合读者： 正在把单服务器聊天应用扩展到 Redis 支撑的横向部署、并要求断线后恢复流式响应的 Web 运维工程师

适合，README 明确把可恢复流式响应、多标签页、多设备同步和 Redis 横向扩展作为同一能力集合。

  • Resumable Streams 说明 AI 响应会在连接断开后自动重连并恢复，目标是“不丢失响应”。
  • 同一章节明确支持在多个标签页打开同一聊天，或在另一台设备继续会话。
  • README 写明该能力从 single-server setups 延伸到 horizontally scaled deployments with Redis。
  • 项目洞察进一步提到可选 Redis 用于可恢复流式响应和横向扩展。

因此，它比只提供普通 WebSocket 或一次性 HTTP 流的聊天前端更贴合你的架构目标。不过，README 没有说明 Redis 版本、持久化要求、故障切换语义、负载均衡粘性配置和恢复窗口；这些仍是生产部署能否成立的关键细节。

  • README「Resumable Streams」：AI responses automatically reconnect and resume if your connection drops
  • README「Resumable Streams」：Multi-Tab & Multi-Device Sync
  • README「Resumable Streams」：Works from single-server setups to horizontally scaled deployments with Redis
  • 项目洞察「architectural_strengths」：可恢复流式响应、跨设备同步和可选 Redis 支持
材料未说明：README 未说明支持的 Redis 版本、持久化配置和故障切换语义；README 未说明负载均衡器是否需要粘性会话以及流恢复的保存时长
视情况 我主要使用 Ollama 或其他 OpenAI-compatible 本地服务，希望通过 ChatGPT 风格界面分析文件，同时避免默认依赖云端模型；LibreChat 适合我吗？
适合读者： 需要在本地或私有基础设施中使用模型、并优先控制数据流向的个人开发者

视情况，适合把本地模型统一到一个自托管界面，但文件和高级能力是否真正本地化取决于你的 Endpoint 配置。

  • README 明确支持 Ollama、Apple MLX、koboldcpp 等本地或远程提供商，也支持“any OpenAI-compatible API”。
  • 文件交互支持 Custom Endpoints，但不同模型的文件分析、视觉和上下文能力并不相同。
  • Code Interpreter 是独立的沙箱执行服务，可处理上传、加工和下载文件，但它不等于模型推理也完全在本地。
  • 如果启用 Web Search、Jina 重排、云端语音或图像服务，数据仍可能离开私有环境。

因此，它适合本地模型门户，而不是自动保证全链路离线。README 未说明 Ollama 文件分析的具体兼容矩阵、默认数据保留策略和各外围服务的数据流向。

  • README「AI Model Selection」：支持 Ollama、Apple MLX、koboldcpp 和任意 OpenAI-compatible API
  • README「Multimodal & File Interactions」：支持 Custom Endpoints、OpenAI、Azure、Anthropic、AWS Bedrock 和 Google
  • README「Code Interpreter API」：Secure, Sandboxed Execution；Upload, process, and download files
  • 项目洞察「usage_limitations」：使用云端模型、搜索、重排或语音服务时数据可能离开本地
材料未说明：README 未给出 Ollama 与文件分析、视觉模型之间的详细兼容矩阵；README 未说明所有外部服务的默认数据保留和传输策略
视情况 我需要给内部员工提供统一聊天入口，并使用 OAuth2 或 LDAP、角色与群组权限，还要查看 Token 消耗；LibreChat 能作为组织级 AI 门户吗？
适合读者： 为内部员工提供 AI 门户、需要 OAuth2、LDAP、角色群组和 Token 消耗管理的组织管理员

视情况，LibreChat具备组织级门户所需的认证和治理入口，但不能仅凭内置功能替代完整的企业安全与合规体系。

  • 项目洞察列出 OAuth2、LDAP、邮件登录、角色、群组、管理面板、审核和 Token 消耗管理。
  • README 的 Agents 部分支持把 Agent 分享给指定用户和群组，说明权限模型不只面向单用户。
  • README 的 Observability 支持 OpenTelemetry 和 Langfuse，可用于 Agent 与模型洞察。
  • 自托管意味着升级、备份、日志、密钥轮换、存储和故障恢复仍由部署方负责。

因此，作为内部 AI 工作台是可行的，尤其适合需要统一模型和 Agent 入口的组织；但高合规场景仍需自行确认数据保留、审计深度、租户隔离、管理员越权控制和身份系统集成细节。README 未给出完整的合规控制清单或每种身份源的部署步骤。

  • 项目洞察「core_problems」：OAuth2、LDAP、邮件登录、角色与群组权限、Token 消耗控制
  • README「Agents & Tools Integration」：Share agents with specific users and groups
  • README「Observability」：Export traces and logs with OpenTelemetry and connect Langfuse
  • 项目洞察「common_pitfalls」：自托管方负责升级、备份、日志、密钥轮换、存储、监控和故障恢复
材料未说明：README 未说明 OAuth2、LDAP 与现有企业身份平台的具体配置流程；README 未说明多租户隔离、数据保留、管理员审计和合规认证的边界

✨ 核心亮点

  • 支持 OpenAI、Claude、Gemini 与 Ollama
  • Code Interpreter 沙箱覆盖 Python、Go、Rust
  • Agents 集成 MCP、Skills 与 Subagents
  • 43,838 星且当日新增 254 星

🔧 工程化

  • 用 Custom Endpoints 接入任意 OpenAI-compatible API
  • Code Interpreter 支持 Python、Node.js、Go 等语言
  • Agents 可组合 MCP Servers、Skills 与文件搜索
  • OpenTelemetry 与 Langfuse 提供模型和 Agent 观测
  • Redis 支持多服务器 Resumable Streams 与跨设备同步

⚠️ 风险

  • Attached Code Workspaces 被 README 标为 highly experimental
  • Agent Plugins 仍处于 experimentally bundle 阶段
  • 最新版本 v0.8.8-rc3 是 release candidate
  • 多模型能力依赖外部 OpenAI、Anthropic 等服务

👥 适合谁？

  • 需要自托管 OpenAI、Claude、Gemini 统一入口的团队
  • 要把 MCP、Skills 与 Code Interpreter 交给 Agent 的开发者
  • 需要 OAuth2、LDAP、Email Login 的多用户部署者