EN

Chat UI

Chat UI 是一个用于 LLM 的聊天界面，也是一个 SvelteKit 应用。

核验日期

核心信息

以下信息由程序从官方接口读取，不经模型改写。

许可证
Apache-2.0
语言
TypeScript
维护方
huggingface
核验日期

它是什么

Chat UI 是一个用于 LLM 的聊天界面。Chat UI 是一个 SvelteKit 应用。Chat UI 为 HuggingChat 应用提供支持。Chat UI 只与兼容 OpenAI 的 API 交互。

主要能力

  1. Chat UI 可以使用本地启发式方法在服务器端执行智能路由，不调用单独的路由服务或选择模型。

  2. 选择 Omni 别名时，图像输入进入 multimodal 路由，启用 MCP 工具的请求进入 agentic 路由，其余请求进入 default 路由。

  3. Chat UI 可以调用 Model Context Protocol（MCP）服务器暴露的工具，并使用 OpenAI function calling 把结果回传给模型。

  4. ML Intern 是一种实验性模式，在 Hugging Face Hub 上规划并运行机器学习工作。

  5. ML Intern 读取论文、模型和数据集，编写脚本，并以 Hugging Face Jobs 和沙箱的方式运行它们，计算预算按每次对话设定。

  6. 在设置的模型页面中，可以按模型切换“Tool calling (functions)”和“Multimodal input”。

怎么上手

  1. 开发服务器默认监听 localhost 的 5173 端口。

  2. chat-ui-db 镜像在容器内捆绑了 MongoDB。

  3. 本地环境配置文件中可接受的环境变量，都可以作为 -e 参数提供给 chat-ui-db 镜像。

  4. 可以创建应用的生产版本。

  5. 生产构建可以预览。

  6. 部署应用时，可能需要为目标环境安装适配器。

摘自 README · env
OPENAI_BASE_URL=https://router.huggingface.co/v1
OPENAI_API_KEY=hf_************************
摘自 README · bash
git clone https://github.com/huggingface/chat-ui
cd chat-ui
npm install
npm run dev -- --open
摘自 README · bash
npm install
npm run dev
摘自 README · bash
docker run \
  -p 3000:3000 \
  -e OPENAI_BASE_URL=https://router.huggingface.co/v1 \
  -e OPENAI_API_KEY=hf_*** \
  -v chat-ui-data:/data \
  ghcr.io/huggingface/chat-ui-db:latest
摘自 README · bash
npm run build

适合谁

聊天历史、用户、设置、文件和统计数据都存放在 MongoDB 中。Chat UI 可以指向 MongoDB 6/7 的部署。未设置 MongoDB 地址变量时，Chat UI 会回退到嵌入式 MongoDB。

模型从基础地址的模型端点发现，也可以选择通过 MODELS 环境变量（JSON5）覆盖其元数据。授权使用 OpenAI API 密钥变量，该变量为首选。应用名称变量设置在整个应用中用作标题的名称。

数据共享变量可设为 1，从而在用户设置中添加一个开关，供用户选择是否与模型创建者共享数据。应用资源变量用于查找徽标和网站图标，当前选项为 chatui 和 huggingchat。路由策略 JSON 通过路由路径变量提供。

路由器识别的路由名称为 default、multimodal 和 agentic。当工具选项为 true 且用户至少启用了一个 MCP 服务器时，路由器会绕过策略文件并使用工具模型。如果所选路由的模型全部失败，调用会回退到回退模型变量指定的模型。

旧版本仍可在 legacy 分支上获取。

来源

本页内容整理自以下官方来源，点击可核对原文。

核验日期 ·

本页由 AI 依据上述官方来源整理，并经自动核对，未经本站实测。 发现错误？告诉我们。