Model Overview

模型管理用于对接供应商的大语言模型,支持对接主流的大模型,包括本地私有大模型(Llama 3 / Qwen 2 等)、国内公共大模型(通义千问 / 智谱 AI / 百度千帆 / Kimi / DeepSeek 等)和国外公共大模型(OpenAI / Azure OpenAI / Gemini 等),支持的类型包括文本生成、向量模型、重排、语音识别、语音合成、图片理解、图片生成等。

各供应商支持的类型详情见下表(按字母排序):

大语言模型 向量模型 重排模型 语音识别模型 语音合成模型 图片理解模型 图片生成模型
阿里云百炼 ✔ ✔ ✔ ✔ ✔ ✔ ✔
Amazon Bedrock ✔ ✔
Azure OpenAI ✔ ✔ ✔ ✔ ✔ ✔
DeepSeek ✔
Gemini ✔ ✔ ✔ ✔
kimi-月之暗面 ✔
Ollama ✔ ✔ ✔
OpenAI ✔ ✔ ✔ ✔ ✔ ✔
通义千问 ✔ ✔ ✔
腾讯混元 ✔ ✔ ✔ ✔
vLLM ✔
火山引擎 ✔ ✔ ✔ ✔ ✔
本地模型 ✔ ✔
千帆大模型 ✔ ✔
讯飞星火 ✔ ✔ ✔ ✔
Xorbits Inference ✔ ✔ ✔ ✔ ✔ ✔ ✔
智谱 AI ✔ ✔ ✔

登录 MaxKB 系统后,可以先对接模型,也可以在创建应用时再添加模型。添加模型时,可先点击【添加模型】,然后选择供应商,也可以左侧先选择供应商,然后点击【添加模型】。