Skip to content

云端模型路由(原 litellm-router)

个人 LLM 集中路由:自建 Go 透传网关,把 DeepSeek(主决策)和 MiniMax(后台量大管饱) 聚合到一个统一端点,供 Claude Code / Codex / OpenCode 使用,自带透明计量与用量面板。

曾用 LiteLLM,因 2G 服务器装不动 + 想完全掌控路由/计量,改为自建 Go 网关(gateway/)。

架构一句话

Claude Code / Codex / OpenCode
  主对话 → deepseek-v4-pro → DeepSeek
  haiku/后台 → MiniMax-M3  → MiniMax
            ↓ 都指向
展示服务器 121.40.184.111(Caddy 入口)
  /v1/* → 自建 Go 网关(gateway,:8080,systemd)
  /panel → 用量面板
            ↓ 计量
存储服务器 115.29.241.36(PostgreSQL,5 表)

文档导航

入口

  • 网关验证:curl http://121.40.184.111/v1/models -H "Authorization: Bearer <virtual key>"
  • 用量面板:http://121.40.184.111/panel