输出被截断的三种成因分支示意封面图

大模型 API 输出被截断怎么办：先看 finish_reason，再按原因逐条修

输出被截断（句子写一半、JSON 不闭合、流式中断）通常只有四类原因：撞上 Token 上限、推理模型的思维链吃掉了输出额度、任务本身超出模型单次最大输出、以及客户端或代理超时。本文按“先看 finish_reason 判断类别，再改对应参数”的顺序给出具体做法，包括 max_tokens/max_completion_tokens 与上下文窗口的关系、续写循环的写法、流式超时设置，以及 stop 参数和安全过滤造成的假截断排查。

默认分类 2026-10-13 107人浏览
流式输出 截断排查 API 调用 参数配置
不同模型上下文窗口容量与输入输出占比的对比示意

模型上下文窗口对比：窗口与输出上限怎么算，截断、延迟和限流怎么避

对比 GPT-4o、Claude 3.5 Sonnet、DeepSeek-V3、Gemini 1.5 等代表版本的上下文窗口与单次输出上限。本文说明如何按「输入 + 预留输出 ≤ 窗口」计算 token 预算，并按任务选择窗口档位。遇到输出截断时，可以用 finish_reason 和 usage 定位原因。文中也给出应对长上下文带来的延迟、注意力衰减和 TPM 限流的做法。

默认分类 2026-09-26 94人浏览
模型选型 长上下文 API接入 上下文窗口 截断排查
admin

admin

文章80 评论0