文档 · 接入指南

LiteLLM 接 TopxAI：代理配置和 Python SDK

2026-09-19

用 model openai/<id> 和 api_base https://ai.topxea.com/v1 把 LiteLLM 指到 TopxAI，写在代理的 model_list 或 completion() 调用里都行。

LiteLLM 用 openai/ 前缀加 api_base 接任何 OpenAI 兼容端点，用 anthropic/ 接 Anthropic 端点。TopxAI 的文本模型都在这两条路上。

Python SDK

import litellm

reply = litellm.completion(
    model="openai/claude-sonnet-5-5",
    api_base="https://ai.topxea.com/v1",
    api_key="sk-...",
    messages=[{"role": "user", "content": "Say hello in one sentence."}],
)
print(reply.choices[0].message.content)

Claude 走 Messages 接口、带提示缓存：

reply = litellm.completion(
    model="anthropic/claude-sonnet-5-5",
    api_base="https://ai.topxea.com",
    api_key="sk-...",
    messages=[...],
)

代理 config.yaml

model_list:
  - model_name: claude-sonnet-5-5
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://ai.topxea.com/v1
      api_key: os.environ/TOPXAI_API_KEY
  - model_name: gpt-6.1-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://ai.topxea.com/v1
      api_key: os.environ/TOPXAI_API_KEY
  - model_name: kimi-k3
    litellm_params:
      model: openai/kimi-k3
      api_base: https://ai.topxea.com/v1
      api_key: os.environ/TOPXAI_API_KEY

litellm --config config.yaml 启动；客户端用 model_name 里的名字调用代理。

费用统计

LiteLLM 按模型名算价，不知道 TopxAI 的线路。要让它的费用列和用量日志对上，在 litellm_params 里按模型页填 input_cost_per_token 和 output_cost_per_token（比如 claude-sonnet-5-5 共享池是 0.000001 和 0.000005）。

不通时

401：密钥错了，或粘贴时带了空格。402：余额为零。403：这个模型 ID 不在售，或不在这把密钥的线路上。详见常见错误响应。
curl 能通、工具不通：这一页按工具列出常见原因。

模型：claude-sonnet-5-5, gpt-6.1-sol · 模型与价格

LiteLLM 接 TopxAI：代理配置和 Python SDK

Python SDK

代理 config.yaml

费用统计

不通时

相关