第 7 页 - NexAIX-官方博客

只是一个默认分类

AI API 故障排查：从 401、404、429 到超时、截断和降配怀疑，按顺序定位

调用大模型 API 出错时，先看状态码和响应体里的错误类型，再用最小请求判断问题在客户端还是服务端。本文按认证、路径与模型 ID、限流与配额、5xx 与超时、上下文截断、降配验证的顺序，说明每类问题的判断方法和对应处理。

默认分类 2026-09-28 110人浏览

限流 流式输出 上下文窗口 API排障 OpenAI兼容接口

AI API吞吐量怎么测、怎么提：并发数、RPM/TPM 限流与延迟的取舍

说明如何用每秒输出词元数和每秒完成请求数衡量 AI API 吞吐量，如何通过阶梯压测找到合适的并发数，并按 RPM、TPM 限额估算容量。文章还给出连接复用、Prompt 缓存、控制词元用量和带抖动的 429 退避代码，帮助在吞吐量和首字延迟之间做取舍。

默认分类 2026-09-27 114人浏览

限流 生产环境 API 性能 并发

模型上下文窗口对比：窗口与输出上限怎么算，截断、延迟和限流怎么避

对比 GPT-4o、Claude 3.5 Sonnet、DeepSeek-V3、Gemini 1.5 等代表版本的上下文窗口与单次输出上限。本文说明如何按「输入 + 预留输出 ≤ 窗口」计算 token 预算，并按任务选择窗口档位。遇到输出截断时，可以用 finish_reason 和 usage 定位原因。文中也给出应对长上下文带来的延迟、注意力衰减和 TPM 限流的做法。