Skip to content

LiteLLM 配置 Xikapi 模型

LiteLLM 通过 config.yaml 配置上游模型。Xikapi 是 OpenAI 兼容接口,因此可使用 OpenAI provider 形态配置。

环境变量

text
XIKAPI_API_KEY=YOUR_XIKAPI_API_KEY

config.yaml 示例

yaml
model_list:
  - model_name: xikapi-chat
    litellm_params:
      model: openai/YOUR_CHAT_MODEL_ID
      api_base: https://xikapi.com/v1
      api_key: os.environ/XIKAPI_API_KEY

  - model_name: xikapi-reasoning
    litellm_params:
      model: openai/YOUR_REASONING_MODEL_ID
      api_base: https://xikapi.com/v1
      api_key: os.environ/XIKAPI_API_KEY

YOUR_CHAT_MODEL_IDYOUR_REASONING_MODEL_ID 分别替换为控制台中的真实模型 ID。如果团队暂时只需要一个模型,删除第二个条目即可。

启动

bash
litellm --config config.yaml --port 4000

下游工具配置

让 Cline、Open WebUI、Dify 等工具连接 LiteLLM:

下游配置项填写内容
Base URLhttp://localhost:4000/v1
API KeyLiteLLM proxy key
Modelxikapi-chat

模型别名建议

用团队可读名称隐藏真实上游模型名,例如:

text
coding-fast
chat-default
reasoning-high