Hello Tokenhot：一個閘道接入 30+ 家 LLM

今天用 LLM 做開發，往往要同時维护好几家提供商的帳号、SDK 和帳单後台。Tokenhot 把這一切收敛成一個 OpenAI 兼容的 API 閘道。

為什么做 Tokenhot

我们聊過的每個团队都是同一個故事：先用一家，為了容灾加第二家，因為独占模型加第三家，又因為某個负载更便宜加第四家。最後留下一堆没人想维护的胶水程式碼。

更低价格，更高稳定性。一個閘道，所有模型。

Tokenhot 就是我们自己想要的那一层：一個说 OpenAI API 协议的单端點，背後路由到 OpenAI、Claude、Gemini、DeepSeek 等 30+ 家提供商。

閘道如何工作

统一请求格式

你發标准的 OpenAI 风格请求，提供商的差异、重试和故障切换都由閘道在幕後处理。

curl https://api.tokenhot.ai/v1/chat/completions \
  -H "Authorization: Bearer $TOKENHOT_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o-mini",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

智能路由與故障切换

当某家提供商抖动時，流量自动切换。你的集成程式碼不变，閘道吸收所有混乱。

费用对比

按量付费，无订阅。一個典型对话负载的对比：

渠道	模型	输入 / 百萬 tokens	输出 / 百萬 tokens
官方直连	gpt-4o-mini	$0.15	$0.60
Tokenhot	gpt-4o-mini	$0.12	$0.48
Tokenhot	deepseek-chat	$0.07	$0.28

两分鐘上手

在 tokenhot.ai 注册帳号
在控制台生成 API Key
把現有 OpenAI SDK 的 base URL 指向我们

from openai import OpenAI

client = OpenAI(
    base_url="https://api.tokenhot.ai/v1",
    api_key="YOUR_TOKENHOT_KEY",
)

resp = client.chat.completions.create(
    model="claude-sonnet-4",
    messages=[{"role": "user", "content": "Hello Tokenhot!"}],
)
print(resp.choices[0].message.content)

就這樣——現有程式碼零改动，平台上的每個模型都只差一個字符串。