LibreChat:自托管整合多模型、MCP与代码执行的AI聊天平台
一个给团队自托管的多模型AI聊天平台,把MCP、Agents和代码执行放进同一界面。
GitHub LibreChat-AI/LibreChat 更新 2026-09-25 分支 main 星标 44.9K 分叉 9.2K
TypeScript JavaScript AI聊天平台 MCP Code Interpreter OpenAI Anthropic 自托管

🧭 决策指南

适合,如果你

  • 你要在一个界面切换OpenAI、Claude、Gemini、DeepSeek或OpenRouter。
    README 的“AI Model Selection”列出Anthropic、OpenAI、Google、Deepseek和OpenRouter,并支持AI Endpoint切换。
  • 你要让非编码人员创建Agents,并接入MCP Servers、Skills或文件搜索。
    README 的“Agents & Tools Integration”包含No-Code Custom Assistants、MCP Servers、Skills和file search。
  • 你需要在聊天中上传文件并运行Python、Node.js、Go或C++代码。
    README 的“Code Interpreter API”写明支持文件上传处理,以及Python、Node.js、Go、C/C++等沙箱执行。
  • 你要部署带OAuth2、LDAP、角色权限和Admin Panel的多用户AI服务。
    README 的“Multi-User & Secure Access”和“Admin Panel”分别列出OAuth2、LDAP、Email Login及用户、群组、角色管理。

不适合,如果你

  • 你要求Attached Code Workspaces具备稳定的生产级保证。
    README 在“Agents & Tools Integration”中将Attached Code Workspaces标为“highly experimental”。
  • 你需要README已明确支持但清单之外的模型、供应商或协议。
    README只明确列出OpenAI-compatible API、Anthropic、AWS Bedrock、Google、Ollama、MCP等接口与供应商。
  • 你必须依据README直接获得安装命令、运行版本或硬件配置。
    提供材料中的README未包含可复制的安装命令,也未说明版本和硬件要求。

前置条件

  • 需要可用的AI供应商或OpenAI-compatible API;README列出Anthropic、OpenAI、Azure OpenAI、Google、Vertex AI和Custom Endpoints。
  • 需要Code Interpreter执行服务;README说明其由ClickHouse/code-interpreter提供支持。
  • 若启用横向扩展的Resumable Streams,需要Redis;README写明其支持“horizontally scaled deployments with Redis”。
  • 若使用多用户访问,需要配置OAuth2、LDAP或Email Login中的一种;README在“Multi-User & Secure Access”中列出这些方式。
  • 可使用Docker Compose stacks进行部署;README称Admin Panel随Docker Compose stacks提供one-command setup。

要注意

  • Custom Endpoints要求目标服务提供OpenAI-compatible API,README未承诺任意协议兼容。
    README 的“AI Model Selection”明确写的是“Use any OpenAI-compatible API with LibreChat”。
  • 同一聊天切换AI Endpoint和Preset是README明确提供的能力,不代表模型功能完全一致。
    README 的“Presets & Context Management”写明可在聊天中切换AI Endpoints和Presets;未说明各模型能力等价。
  • Code Interpreter虽列出多种语言,但其执行服务和文件处理边界未在材料中展开。
    README列出Python、Node.js、Go、C/C++、Java、PHP、Rust和Fortran,但未给出资源限制或隔离配置。

材料未说明

  • 未提供安装、启动或升级命令。
  • 未说明Node.js、Go、数据库、Redis或Docker的具体版本要求。
  • 未说明各AI供应商的凭据配置方式、费用和速率限制。
  • 未说明Code Interpreter的CPU、内存、磁盘、超时或网络访问限制。
  • 未说明OAuth2、LDAP和Email Login的具体配置步骤及支持的身份提供商。
  • 未说明v0.8.8-rc4相对上一版本的具体变更;相关What's New和Changelog章节被省略。
  • 未说明44,897颗星、9,200个Fork与803个Issue中未解决问题的性质和严重程度。
  • 未说明10名贡献者、5个版本和最近10次提交对应的时间跨度与发布稳定性。

💡 深度解析

6
视情况 我需要让 LibreChat Agent 调用 MCP 工具,并执行 Python、Node.js 代码处理上传文件;在必须限制网络、文件系统和凭证访问的前提下,这个方案是否适合生产使用?
适合读者: 需要让 Agent 调用 MCP 服务器、执行 Python 和 Node.js 代码,并在企业环境中限制网络、文件和凭证访问的自动化开发者

视情况,功能覆盖度很高,但生产适用性取决于部署方是否能补足执行沙箱、MCP 信任边界和凭证隔离。

  • README 的“Code Interpreter API”列出 Python、Node.js(JS/TS)、Go、C/C++、Java、PHP、Rust 和 Fortran,并声明支持安全、沙箱化执行及文件上传处理。
  • “Agents & Tools Integration”支持 MCP Servers、file search、code execution、Skills、Agent Plugins 和 Subagents。
  • 项目洞察明确提醒 MCP、Agent 工具和代码解释器会扩大攻击面,仍需验证容器、网络、文件系统、密钥及租户隔离。
  • README 没有给出沙箱的网络策略、资源限制、逃逸防护、MCP 凭证注入方式或工具审批机制,因此不能把“Sandboxed”直接等同于完整生产隔离。
  • README「Code Interpreter API」:Secure, Sandboxed Execution in Python, Node.js (JS/TS), Go, C/C++, Java, PHP, Rust, and Fortran
  • README「Agents & Tools Integration」:Use MCP Servers, tools, file search, code execution, and more
  • 项目洞察 common_pitfalls:MCP服务器、Agent工具和代码解释器会扩大攻击面
  • 项目洞察 usage_limitations:生产部署仍需验证容器、网络、文件系统、密钥及租户隔离
材料未说明:README 未说明代码执行沙箱的 CPU、内存、磁盘、执行时间和网络出口限制;README 未说明 MCP 服务器的签名、授权、工具白名单和租户级隔离机制
适合 我维护一个以 TypeScript/JavaScript 为主的 Web 产品,内部模型提供 OpenAI-compatible API;我还需要用户在会话中切换端点、预设和上下文分支,LibreChat 是否适合作为可扩展前端?
适合读者: 维护 TypeScript/JavaScript Web 产品、希望通过一个自定义 OpenAI-compatible API 接入内部模型,并让用户在会话中切换模型和预设的前端工程师

适合,LibreChat 的统一端点抽象和对话上下文功能正好覆盖这类前端集成需求,但内部 API 仍需自行满足兼容协议和模型能力要求。

  • README 的“AI Model Selection”明确支持 Custom Endpoints,可使用任意 OpenAI-compatible API,且 no proxy required。
  • “Presets & Context Management”支持保存、创建和共享预设,并能在对话中切换 AI Endpoints and Presets。
  • 同一章节还提供消息编辑、重试、Conversation branching、Fork Messages & Conversations,以及按需压缩长对话。
  • 项目数据表明主语言为 TypeScript,另有 JavaScript;项目采用 MIT License,适合二次开发。README 没有说明自定义端点对 Responses API、视觉、工具调用和流式协议的完整兼容范围。
  • README「AI Model Selection」:Use any OpenAI-compatible API with LibreChat, no proxy required
  • README「Presets & Context Management」:Switch between AI Endpoints and Presets mid-chat
  • README「Presets & Context Management」:Conversation branching、Fork Messages & Conversations、Compact long conversations
  • 项目数据:main_language 为 TypeScript;JavaScript 为第二大语言;license 为 MIT License
材料未说明:README 未说明自定义端点的完整请求字段、流式事件格式和错误处理兼容范围;README 未说明二次开发时前端扩展 API、插件 API 的稳定性和版本承诺
适合 我需要上传文件、分析图片,并在 Python、Node.js 和 Go 中运行处理代码后下载结果;LibreChat 是否比单纯的 ChatGPT 式文本聊天工具更适合这类工作流?
适合读者: 需要分析 CSV、文档和图片,并在 Python、Node.js 和 Go 之间运行数据处理代码的知识工作者

适合,因为 LibreChat 把文件交互、视觉分析、代码执行和结果下载放进同一对话流程,而不是只返回文本。

  • README 的“Code Interpreter API”支持 Python、Node.js(JS/TS)和 Go,并提供 Upload, process, and download files directly。
  • “Multimodal & File Interactions”列出 Claude 3、GPT-4.5、GPT-4o、o1、Llama-Vision 和 Gemini 的图片分析能力,也支持多家端点的文件聊天。
  • “Generative UI with Code Artifacts”可生成 React、HTML 和 Mermaid 内容,并预览或导出 Mermaid 图形,适合把分析结果进一步可视化。
  • 但不同模型对视觉、文件、上下文和工具调用的支持并不一致;README 没有保证所有列出的模型都具备相同的文件格式、大小和执行能力。
  • README「Code Interpreter API」:Upload, process, and download files directly
  • README「Code Interpreter API」:Python, Node.js (JS/TS), Go
  • README「Multimodal & File Interactions」:Claude 3, GPT-4.5, GPT-4o, o1, Llama-Vision, and Gemini
  • README「Generative UI with Code Artifacts」:create React, HTML, and Mermaid content directly in chat
材料未说明:README 未说明单个文件的大小上限、支持的完整文件格式列表和代码执行时长限制;README 未说明生成文件是否持久化到本地存储、S3 或其他对象存储
适合 我需要为企业用户统一接入 OpenAI、Anthropic、Azure OpenAI 和 AWS Bedrock,并用 OAuth2、LDAP、用户组和角色权限控制访问;LibreChat 是否适合替代多个供应商的独立聊天入口?
适合读者: 需要在企业内统一接入 OpenAI、Anthropic、Azure OpenAI 和 AWS Bedrock,并通过 OAuth2、LDAP、用户组和角色权限提供内部 AI 门户的管理员

适合,因为 LibreChat 同时覆盖多供应商接入和多用户管理,但管理员仍需自行承担自托管运维与供应商配置。

  • README 的“AI Model Selection”列出 Anthropic、AWS Bedrock、OpenAI 和 Azure OpenAI,并支持在对话中切换端点。
  • “Agents & Tools Integration”支持向特定用户和用户组共享 Agent;项目洞察还列出 OAuth2、LDAP、邮箱登录、角色、权限和管理员面板。
  • “Resumable Streams”说明可从单服务器扩展到使用 Redis 的横向部署,适合需要统一入口的团队场景。
  • README 没有说明企业级审计日志、细粒度供应商配额和合规认证是否完整提供,因此不能仅凭界面能力替代现有 IAM 或治理系统。
  • README「AI Model Selection」:Anthropic (Claude), AWS Bedrock, OpenAI, Azure OpenAI
  • README「Agents & Tools Integration」:Share agents with specific users and groups
  • README「Resumable Streams」:Works from single-server setups to horizontally scaled deployments with Redis
  • 项目洞察:支持 OAuth2、LDAP、用户组、角色、权限和管理员面板
材料未说明:README 未说明 LDAP/OAuth2 的具体配置范围、审计日志保留策略和每用户或每组的供应商配额能力;README 未说明 Redis 横向部署支持的并发用户规模和故障恢复指标
适合 我需要在 Redis 横向扩展部署中支持多标签页和多设备会话,并用 OpenTelemetry 或 Langfuse 观察 Agent 调用和模型行为;LibreChat 是否适合作为生产 AI 工作台?
适合读者: 需要承载多标签页、多设备会话,并在 Redis 横向扩展部署中观察 Agent 调用、模型延迟和 Token 消耗的运维工程师

适合用于构建具备会话连续性和基础可观测性的 AI 工作台,但它不是自动完成容量规划、成本治理和合规审计的全托管平台。

  • README 的“Resumable Streams”支持连接中断后自动重连并恢复响应,还支持 Multi-Tab & Multi-Device Sync。
  • 同一章节明确写出可从 single-server setups 扩展到 horizontally scaled deployments with Redis,直接对应你的部署约束。
  • “Observability”支持通过 OpenTelemetry 导出 traces and logs,并连接 Langfuse 获取 Agent 和模型洞察。
  • 项目洞察指出并发用户、文件大小、Agent 调用次数和媒体存储会推动资源增长;README 没有给出吞吐、延迟、Redis 容量或 Langfuse 数据保留指标。
  • README「Resumable Streams」:AI responses automatically reconnect and resume if your connection drops
  • README「Resumable Streams」:Multi-Tab & Multi-Device Sync
  • README「Resumable Streams」:Works from single-server setups to horizontally scaled deployments with Redis
  • README「Observability」:Export traces and logs with OpenTelemetry and connect Langfuse
  • 项目数据:latest_release 为 v0.8.8-rc4
材料未说明:README 未说明支持的并发连接数、Redis 拓扑、故障切换行为和可续传状态的存储要求;README 未说明 OpenTelemetry 和 Langfuse 是否覆盖完整 Token 成本、敏感字段脱敏及长期审计需求
视情况 我已经使用 Ollama 或 Apple MLX 运行本地模型,不能把敏感文件发送到云端;LibreChat 是否适合作为本地模型和文件问答的统一界面?
适合读者: 希望数据不离开内网、已经运行 Ollama 或 Apple MLX,并想在同一 Web 界面中切换本地模型的个人开发者

视情况,LibreChat 能连接 Ollama 和 Apple MLX,但是否满足数据不出网要求取决于你是否把文件、搜索和其他能力也配置为本地服务。

  • README 的“AI Model Selection”明确列出 Ollama 和 Apple MLX,并支持 Local & Remote AI Providers。
  • “Multimodal & File Interactions”说明文件聊天还支持 Custom Endpoints、OpenAI、Azure、Anthropic、AWS Bedrock 和 Google;这意味着文件能力并不天然全部由本地模型完成。
  • 项目洞察指出可以完全本地部署,但联网搜索、重排序、图像和语音等能力可能依赖额外服务。
  • README 没有说明 Ollama、Apple MLX 对文件解析、视觉输入、上下文长度或工具调用的具体兼容矩阵。
  • README「AI Model Selection」:Compatible with Local & Remote AI Providers: Ollama, ... Apple MLX
  • README「Multimodal & File Interactions」:Chat with Files using Custom Endpoints, OpenAI, Azure, Anthropic, AWS Bedrock, & Google
  • 项目洞察:支持完全本地部署,也可连接云端模型和本地或远程推理服务
材料未说明:README 未说明文件解析、向量检索和临时文件是否始终由本地服务处理;README 未说明 Ollama 或 Apple MLX 的模型能力、硬件要求和多用户隔离方式

✨ 核心亮点

  • 支持OpenAI、Claude、Gemini与DeepSeek-R1
  • MCP、Agents与Skills组合成可扩展工作流
  • Code Interpreter覆盖Python、Go和C++
  • 44,897颗星且最新版本为v0.8.8-rc4
  • Attached Code Workspaces仍标注为高度实验性

🔧 工程化

  • 统一OpenAI、Anthropic、Google和OpenRouter入口
  • 用Agents、MCP Servers和Skills构建助手工作流
  • Code Interpreter可沙箱运行Python、Node.js与Go
  • 支持GPT-Image-1、DALL-E和Stable Diffusion图像生成
  • OAuth2、LDAP与Email Login提供多用户访问

⚠️ 风险

  • Attached Code Workspaces被README标为高度实验性功能
  • Agent Plugins目前属于实验性部署Skills与MCP功能
  • README未提供安装命令、版本要求或硬件要求
  • Code Interpreter依赖ClickHouse/code-interpreter执行服务

👥 适合谁?

  • 需要自托管OpenAI与Anthropic多模型入口的团队
  • 希望用MCP、Agents和Skills搭建内部助手的开发者
  • 需要OAuth2、LDAP和角色权限的多用户部署者
  • 需要Python、Go或Rust沙箱代码执行的AI应用团队