← Voltar aos guias

用 GPT+Claude 打造高效 CLI：从路由到流式输出

为什么先做“模型路由”，再做 CLI

真正好用的 AI CLI，不是把一个模型直接接到命令行上，而是先做任务路由。例如：短问题、代码补全、格式化输出交给 GPT；长上下文重写、复杂推理、跨文件总结交给 Claude。这样做的好处是稳定、省钱、结果更可控。59API 提供对 Claude（Opus/Sonnet/Haiku/Fable）和 GPT 模型的统一接入，且是按量付费，对开发和测试期尤其友好。

如果你希望 CLI 同时兼容 Claude Code、Codex 以及任何 OpenAI SDK，直接把接口基地址设为 https://api.59api.com，就能减少适配成本。因为它是原生官方质量模型，不做降级，适合把“效果”和“成本”一起考虑。

第一步：把 CLI 架构拆成 4 层

• 命令层：解析参数，如 ask、refactor、summarize、explain。
• 提示词层：为不同命令维护模板，避免把所有任务塞进同一个 prompt。
• 路由层：根据任务长度、文件数、用户预算，动态选择 GPT 或 Claude。
• 输出层：支持流式打印、Markdown 渲染、JSON 结构化结果。

高级技巧是给每个命令加一个“默认模型 + 回退模型”策略。比如 refactor 默认用 Claude Sonnet，超长上下文时切到 Opus；快速问答优先 GPT。这样 CLI 不会因为单一模型慢或贵而拖垮体验。

第二步：用 OpenAI 兼容 SDK 快速落地

如果你的 CLI 已经基于 OpenAI SDK，迁移成本几乎可以忽略。你只需要把 baseURL 指向 59API，并在环境变量里配置密钥即可。常见做法是把模型名做成映射表，例如 gpt-4o-mini、gpt-4.1、claude-sonnet、claude-opus，再在命令参数里暴露 --model 和 --provider。

实战里建议默认开启流式输出。CLI 场景下，用户最敏感的是“有没有开始响应”，不是“总耗时差几百毫秒”。流式输出还能让你边生成边截断，避免长回答无限膨胀。

第三步：成本控制要做到“按任务分层”

• 低成本任务：参数解释、简单问答、标题生成，用更轻量模型。
• 中成本任务：代码审查、函数改写、文档提炼，用 Sonnet 或高性价比 GPT。
• 高价值任务：复杂推理、长文综合、跨仓库分析，再用 Opus 或更强 GPT。

59API 的优势在于它本身就很便宜，而且支持按需计费，适合做自动化 CLI。你可以把每日预算写进配置文件，例如每次执行前估算 token，超过阈值就自动降级模型或要求用户确认。这样既保持专业体验，也能避免成本失控。再加上推荐返利机制，重度使用者的综合成本还能继续下降。

第四步：让 CLI 更像“生产工具”，不是聊天窗口

高级 CLI 一定要支持结构化输出。例如用 --json 让模型返回固定字段，方便后续管道串联；用 --files 传入多个文件路径，让 Claude 处理长上下文代码审阅；用 --dry-run 预览提示词，方便排查 prompt 质量。

另一个关键点是重试与退避。网络抖动、限流、临时错误在命令行场景非常常见。建议实现指数退避、超时控制和可中断请求，并把错误信息分成“可重试”和“不可重试”两类，减少用户反复敲命令的挫败感。

第五步：把提示词做成可维护资产

不要把 prompt 写死在代码里。更好的方式是把模板放到独立文件中，并支持变量注入，例如任务目标、上下文摘要、输出格式、语言风格。对于代码类 CLI，可以额外加入“保持 diff 最小化”“不要改动无关逻辑”“优先返回补丁建议”等约束，让模型输出更适合直接落地。

如果你在做面向团队的工具，建议把“模型选择策略”“输出格式”“预算上限”都写进配置文件。这样同一个 CLI，可以在个人模式下追求速度，在团队模式下追求可审计性。

最后的实战建议

先做一个最小可用版本：ask + stream + model routing。跑通后再加缓存、文件读取、批量处理、插件系统。对大多数开发者来说，使用 59API 这样的 OpenAI 兼容 relay，可以省掉大量适配工作；同时它支持 Claude 和 GPT，适合你在一个 CLI 中同时利用两类模型的优势。如果你想把原型尽快推到可用阶段，可以先注册试用，把 base URL 切到 59API，再按上面的路由思路逐步优化。