用 openai Python SDK 或 httpx 调用兼容 OpenAI 的模型接口:怎么初始化客户端、只改 base_url 接入其他端点、读取普通响应和流式响应,以及超时、429 和 5xx 的重试处理。每一步都附可直接运行的代码。
接入 OpenAI 兼容的 AI API,核心是改对 base_url 并换上对应的 Key。本文按 Python、Node.js、LangChain、原生 HTTP 四种客户端给出配置写法,说明 /v1 路径怎么写才不会 404,以及流式输出、超时、429 重试在上线前该怎么设。
按“改了请求才会好”和“等一会儿可能就好”两类,讲清大模型 API 常见错误码的原因和排查顺序。重点区分 429 的速率限制与额度耗尽,并给出退避重试、断路器和降级的写法,避免空转重试和重试风暴。
DeepSeek V4 Flash 已升级为 V4.1-Flash,官方推荐模型名统一成 deepseek-flash,旧标识仅作别名兼容。这篇讲清楚 model 字段该填什么、1M 上下文与 384K 输出怎么用、思考模式和 FIM 的冲突在哪,以及迁到 OpenAI 兼容端点后怎么验证模型没被换小。
为开发者与技术负责人整理 AI API 中转站选型时必须核查的供给来源透明度、OpenAI 兼容端点迁移配置、基于 Logprobs 的模型降配检测方法,以及 429 限流与上下文截断的工程处理方案。
0 条留言