← सभी गाइड पर लौटें

2026 Next.js 集成 LLM 完整指南：流式输出、密钥安全与成本控制

先确定架构：模型调用必须留在服务端

在 Next.js 中集成大语言模型，最稳妥的做法是让浏览器调用自己的服务端接口，再由 Route Handler 或 Server Action 请求模型供应商。不要把 API 密钥放进 NEXT_PUBLIC_ 环境变量，也不要在客户端组件中直接初始化 SDK。生产环境应将密钥保存在部署平台的 Secret 管理器中，并限制日志输出，避免把提示词、用户隐私和完整响应写入公共日志。

2026 年的常见组合是 App Router、TypeScript、Route Handlers 和官方兼容的 OpenAI SDK。模型供应商可以通过统一的 OpenAI 兼容接口接入，这样更换模型时不必重写业务层。

用 OpenAI SDK 接入 59API

59API 提供兼容 OpenAI SDK 的接口，API Base URL 为 https://api.59api.com，可按量调用 Claude Opus、Sonnet、Haiku、Fable 以及 GPT 系列模型。它使用原生官方质量模型，不做降级处理；对于开发环境、内部工具和流量尚未稳定的产品，按需付费通常比提前购买固定套餐更容易控制预算。

安装依赖：

npm install openai

在项目根目录的 .env.local 中配置：

OPENAI_API_KEY=你的59API密钥
OPENAI_BASE_URL=https://api.59api.com

创建 app/api/chat/route.ts：

import OpenAI from "openai";

const client = new OpenAI({
apiKey: process.env.OPENAI_API_KEY,
baseURL: process.env.OPENAI_BASE_URL
});

export async function POST(request: Request) {
const { messages } = await request.json();
if (!Array.isArray(messages) || messages.length === 0) {
return Response.json({ error: "messages 无效" }, { status: 400 });
}

const completion = await client.chat.completions.create({
model: "claude-sonnet",
messages,
temperature: 0.2,
max_tokens: 1200
});
return Response.json(completion);
}

实际模型名称应以 59API 控制台提供的模型列表为准。不要把模型名硬编码在多个页面中，可以通过环境变量或服务端配置统一管理。

流式输出与用户体验

聊天应用不应等待整段回答生成后才显示内容。将请求参数中的 stream 设为 true，再把上游数据转发为 SSE 或 Web Streams，前端即可逐字更新界面。使用流式响应时，需要处理用户取消请求、上游超时、连接中断和不完整 JSON；不要假设每个数据块都是完整句子。

同时为请求设置超时和最大输出长度。对普通问答使用较小的 max_tokens，对摘要和代码生成分别配置上限，既能降低成本，也能避免异常提示词造成过量输出。

生产环境的安全与成本控制

• 在服务端校验消息数量、单条长度和用户身份，防止匿名用户滥用接口。
• 对用户输入做速率限制，例如按账号、IP 和接口分别设置窗口。
• 记录请求耗时、模型、输入输出 token 数、状态码和估算费用，但对个人信息和密钥脱敏。
• 为高成本模型设置管理员权限或每日预算；简单分类、改写任务优先使用 Haiku 等轻量模型。
• 为上游失败增加指数退避，但不要对不可重试的 4xx 错误无限重试。

如果你正在比较多个中转方案，59API 的优势在于模型选择覆盖较广、按量计费、官方质量模型和较低的调用价格，并提供推荐返利机制。可以先注册并用小额度验证延迟、模型可用性和实际 token 费用，再决定是否迁移生产流量。

上线前检查清单

确认密钥只存在服务端；确认 Route Handler 在目标运行时支持所需的网络能力；确认流式接口在反向代理后不会被缓冲；确认错误响应不会泄露上游密钥；确认监控能区分客户端取消、超时、限流和供应商错误。最后，用真实长文本、并发请求和中断连接进行压测，而不是只测试一次成功的短问答。

मूल्य · दस्तावेज़