2026-04-11 AI Gateway 选型讨论摘录
- Buu 当前想逐步替换 CCH,目标是长期个人 AI Gateway,而不是继续把 CCH 作为最终方案。
- 真实重点场景不是抽象比较网关,而是尽快通过云雾使用图片与视频接口。
- Buu 的使用方式是:客户端请求一个稳定的逻辑模型名;网关内部把它映射到多个上游提供商,并按优先级、健康状态、连接情况与 fallback 进行选择。
- 这种方式允许把便宜但不稳定的上游放在前面,把更贵但更稳的上游作为后备。
- 对于同一个 provider 的同一个模型,Buu 认为主要应该按不同分组区分,而不是把内部命名拆得过于复杂。
- Buu 明确表示 New API 在这里不是最终网关,而是很多上游中转站所使用的面板/后端;他打算把这些上游 API 接到自己的网关里。
- 讨论后,Buu 先定下当前优先尝试 AxonHub。
- 后续希望同时把 AI Gateway 相关结论沉淀到 llm-wiki,而不只是停留在临时对话中。