Skip to content

LiteLLM

LiteLLM 是一个模型代理网关,可以把多个模型供应商统一成 OpenAI 兼容接口,对上游工具暴露同一个 /v1 API。

使用 Xikapi 时,LiteLLM 适合做团队级模型网关:下游工具连接 LiteLLM,本地或服务器上的 LiteLLM 再转发到 Xikapi。

LiteLLM 有什么用

场景LiteLLM 可以做什么
统一入口让多个工具都调用同一个 OpenAI 兼容地址
模型别名把复杂模型名映射成团队内部名称
密钥隔离下游工具不直接持有 Xikapi Key
访问控制配置代理层 key、预算和路由策略
兼容适配给不支持自定义 provider 的工具提供统一代理

推荐配置顺序

  1. 安装 LiteLLM。
  2. 创建 config.yaml
  3. 配置 Xikapi API Key 和 api_base
  4. 启动 LiteLLM proxy。
  5. 让下游工具连接 http://localhost:4000/v1

文档入口

参考文档

新手验收清单

开始前

  • 从 Xikapi 控制台复制 API Key 和一个当前可用的模型 ID;不要猜测或照抄其他工具页的模型名。
  • 先完成 1 分钟首次调用,确认 Key、模型和网络本身可用。
  • 打开本工具的“配置 Xikapi 模型”页面。字段名称可能不同,但必须以该页规定的 provider、地址和模型格式为准。

配置完成的标志

  1. 使用纯文本测试消息或最小任务得到正常回复。
  2. 没有 401403404model not found
  3. 再单独打开流式输出、图片、工具调用、知识库或自动化等高级能力;不要一次全开。

密钥、版本与求助

  • API Key 只放在工具的私密设置、环境变量或服务端 Secret 中;不要导出、提交或截图完整 Key。
  • 工具版本不同会改变字段名称和界面位置。遇到差异时,优先查看本页末尾的官方文档,再参考本工具的报错页。
  • 求助时提供工具版本、模型 ID、状态码和已打码错误文本;完整 Key、Token、Cookie 和私人资料不应发送。