LiteLLM
LiteLLM 是一个模型代理网关,可以把多个模型供应商统一成 OpenAI 兼容接口,对上游工具暴露同一个 /v1 API。
使用 Xikapi 时,LiteLLM 适合做团队级模型网关:下游工具连接 LiteLLM,本地或服务器上的 LiteLLM 再转发到 Xikapi。
LiteLLM 有什么用
| 场景 | LiteLLM 可以做什么 |
|---|---|
| 统一入口 | 让多个工具都调用同一个 OpenAI 兼容地址 |
| 模型别名 | 把复杂模型名映射成团队内部名称 |
| 密钥隔离 | 下游工具不直接持有 Xikapi Key |
| 访问控制 | 配置代理层 key、预算和路由策略 |
| 兼容适配 | 给不支持自定义 provider 的工具提供统一代理 |
推荐配置顺序
- 安装 LiteLLM。
- 创建
config.yaml。 - 配置 Xikapi API Key 和
api_base。 - 启动 LiteLLM proxy。
- 让下游工具连接
http://localhost:4000/v1。
文档入口
参考文档
新手验收清单
开始前
- 从 Xikapi 控制台复制 API Key 和一个当前可用的模型 ID;不要猜测或照抄其他工具页的模型名。
- 先完成 1 分钟首次调用,确认 Key、模型和网络本身可用。
- 打开本工具的“配置 Xikapi 模型”页面。字段名称可能不同,但必须以该页规定的 provider、地址和模型格式为准。
配置完成的标志
- 使用纯文本测试消息或最小任务得到正常回复。
- 没有
401、403、404或model not found。 - 再单独打开流式输出、图片、工具调用、知识库或自动化等高级能力;不要一次全开。
密钥、版本与求助
- API Key 只放在工具的私密设置、环境变量或服务端 Secret 中;不要导出、提交或截图完整 Key。
- 工具版本不同会改变字段名称和界面位置。遇到差异时,优先查看本页末尾的官方文档,再参考本工具的报错页。
- 求助时提供工具版本、模型 ID、状态码和已打码错误文本;完整 Key、Token、Cookie 和私人资料不应发送。