GLM-5.3-Flash 基准测试翻车:开启最大推理模式引发全任务截断与超时

科技社区 Linux.do 的一位开发者在使用 SNSE Bench 平台测试智谱 AI 的 GLM-5.3-Flash 模型时遭遇了严重的性能故障。测试日志显示,开发者配置了 15 个并发任务,并将推理强度参数 `reasoning_effort` 设置为 `max`(最大值),意图挑战该模型在极限状态下的表现。然而,从 21:54 开始测试后,原本应高效的测试过程演变成了长达数小时的等待。

监控日志表明,所有 15 个并发任务几乎无一例外地遭遇了“响应被截断”的命运。即使面对测试集中的简单题目,该模型也触发了极为冗长的内部思考过程,导致输出文本极其庞大,最终因系统限制或超时而被迫中断,部分任务甚至耗时超过 40 分钟后仍未完成。此外,任务 T11 在流式传输过程中出现了异常,不仅数据包未能正常结束,还频繁触发 HTTP 429 限流错误,导致多次重试失败。开发者对此表示强烈不满,指出该模型在简单问题上不仅没有展现出预期的“闪电”般效率,反而因无法控制思考链长度而导致系统崩溃,认为该模型在此配置下已完全无法进行有效测试。

事件分析

此次测试失败揭示了当前推理大模型在工程化落地中面临的一个关键矛盾:即“推理增强”与“效率控制”之间的失衡。GLM-5.3-Flash 名为“Flash”,本应主打速度与轻量,但在开启 `reasoning_effort: max` 后,模型似乎失去了对输出长度的有效判别能力,陷入了对所有任务(包括简单题)进行过度展开的“思维链陷阱”。

技术上,这反映了模型未针对不同难度的任务建立有效的思维链自适应机制。在 API 服务侧,长文本生成对并发处理能力是巨大的考验,频繁的截断和 429 限流说明后端在高负载长上下文场景下的资源调度策略仍需优化。对于开发者而言,在使用此类推理模型时,盲目追求最大推理强度可能会导致极高的 API 成本与极低的可用性,如何精准控制模型的思考深度已成为应用开发中的新挑战。

核心观点:推理模型缺乏针对任务难度的自适应输出控制,’用力过猛’导致的资源空转与超时,正成为制约其实际应用落地的核心阻碍。

原文链接:Linux.do

C code80.ai · AI 编码 API 聚合 Claude / GPT 多模型统一接入,稳定不限速,按量计费,几行配置接入 Claude Code。 了解一下 ›

抢沙发

评论前必须登录!

立即登录   注册