按“改了请求才会好”和“等一会儿可能就好”两类,讲清大模型 API 常见错误码的原因和排查顺序。重点区分 429 的速率限制与额度耗尽,并给出退避重试、断路器和降级的写法,避免空转重试和重试风暴。
开发者常将429错误混为一谈,导致无效重试。本文依据Anthropic官方规范,拆解速率超限与支出上限两类场景,提供基于retry-after标头、首包延迟及超时预算的指数退避参数设定指南,并解析RPM/TPM差异与NexAIX等网关的服务端行为约定。
0 条留言