调用大模型 API 撞上 429 时，先看响应标头和 error code 再决定重试策略：带 Retry-After 就按它等，配额耗尽必须立刻停。文章给出限流的四个度量维度、六个余量标头的用法、带抖动的指数退避骨架，以及用令牌桶、max_tokens 收紧和按 Key 隔离在架构层规避限流的做法。
0 条留言
NexAIX-官方博客
