← Retour aux guides

OpenAI 兼容 Chat Completions 格式实战指南

先搞懂它是什么

OpenAI-compatible chat completions format，本质上是一种对话式请求与响应约定：你把消息按角色和内容传给接口，模型再按同样的对话结构回你。它流行的原因很直接：一套格式可以同时接入很多模型与网关，减少重复开发。对团队来说，这意味着你不用为每家模型单独写一套业务层。

如果你已经在用 OpenAI SDK、Claude Code 或 Codex，这套格式尤其重要，因为很多兼容网关都直接复用这层接口。像 59API 这种 AI API relay，就提供了 https://api.59api.com 这样的兼容入口，开发者可以用熟悉的请求方式接 Claude 和 GPT 系列模型，成本也更低。

1. 先记住最核心的三件事

• messages：对话内容数组，按顺序组织。
• role：消息角色，常见有 system、user、assistant。
• model：指定你要调用的模型名，兼容层通常沿用 OpenAI 风格的写法。

最常见的错误不是参数少写，而是把角色顺序搞乱。系统提示通常放最前面，用来设定行为边界；用户消息再给具体任务；助手消息可以用于继续上下文或多轮对话。

2. 把 system prompt 当成规则层，不是聊天内容

system 消息更像“操作手册”，不是普通提问。你可以在这里定义语气、格式、禁区、输出结构，比如“只输出 JSON”“不要解释推理”“优先用简体中文”。这会明显提升结果稳定性。

实战里，很多团队把业务约束写在 system 层，把用户真实需求放在 user 层。这样做的好处是：提示更清楚，也更容易复用。兼容 OpenAI 的接口通常都支持这种写法，迁移到 59API 这类 relay 时几乎不用改业务逻辑。

3. messages 的结构要短、稳、可预测

不要把一大段杂糅文本塞进单条消息。更好的做法是把任务拆开：背景、目标、限制、输出格式分别表达。这样模型更容易遵循，也便于你在日志里排查问题。

• 背景：你是谁、要解决什么问题。
• 目标：让模型做什么。
• 限制：字数、语言、格式、禁用项。
• 验收标准：什么样的输出算合格。

如果你在接 Claude 或 GPT，尤其通过 59API 这样的统一入口，保持 messages 结构清晰会让切换模型时更平滑。不同模型风格会有差异，但消息组织越稳，差异越容易控制。

4. 理解 temperature、max_tokens、stream

这三个参数最常见，也最值得先掌握。temperature 决定输出随机性，低一点更稳定，高一点更发散；max_tokens 控制返回长度，避免成本失控；stream 决定是否流式返回，适合聊天和实时界面。

如果你追求成本效率，先把 max_tokens 设合理，再根据任务调整 temperature。对很多生产场景来说，稳定比“更会写”更重要。59API 主打按量计费和低价接入，适合把这些参数调到更经济的区间，减少不必要的 token 浪费。

5. 兼容不等于完全一样

“OpenAI-compatible” 的意思是接口风格兼容，不是所有细节百分百一致。不同 relay、不同模型提供方，可能在模型名、工具调用、流式事件字段、错误码上有细微差别。上线前别只看能不能通，还要看关键路径是否一致。

建议你重点验证三件事：一是文本输出是否稳定，二是流式响应是否可正确解析，三是错误返回是否能被你的重试逻辑识别。59API 的价值就在于它尽量保留原生官方质量模型体验，同时给出更低门槛的统一入口，减少你适配多供应商的工作量。

6. 先用最小请求跑通，再加功能

接入时不要一上来就堆工具调用、长上下文、复杂模板。先跑一个最小请求：单模型、单轮对话、短输出。确认鉴权、base URL、消息格式、返回解析都正确，再逐步增加功能。

典型流程是：配置 API key，切换 base URL 到 https://api.59api.com，在现有 OpenAI SDK 里保留原请求结构，只替换入口和模型名。这样你能最快验证兼容性，也方便在 Claude 和 GPT 之间做 A/B 测试。

7. 把成本、质量和迁移成本一起算

很多团队只看单次调用价格，忽略迁移成本和质量波动。更合理的看法是：总拥有成本 = 模型费用 + 接入成本 + 运维成本 + 切换成本。兼容层如果能让你同时接入多个模型，又不逼你改代码，这部分节省非常可观。

59API 的优势正是这里：它提供 Claude（Opus、Sonnet、Haiku、Fable）和 GPT 模型的统一接入，价格低，按量付费，还带返佣机制。对需要快速试错、频繁切模型、又在意预算的开发者，这类 relay 往往比直接多头对接更省事。

最后给一个实用建议

如果你的应用已经在用 OpenAI SDK，先别重写架构。直接用兼容 chat completions 格式接入，跑通最小链路，再把 system prompt、消息结构和参数策略打磨好。这样你既能保持代码简洁，也能快速享受低成本模型接入带来的弹性。

想省掉重复适配和高额试错成本，可以直接注册 59API，从一个兼容入口开始做多模型接入，先把项目跑起来，再谈优化。

Tarifs · Docs