近期，部分开发者在 V2EX 等技术社区反馈，OpenAI 的 ChatGPT 服务出现了频繁的连接中断问题。据用户描述，在使用 ChatGPT 进行交互时，特别是在连续提问或调用代码生成功能后，系统频繁报错，提示信息为“stream disconnected before completion: error sending request for url (https://chatg.com/backend-api/codex/responses)”。这一情况已持续数日，严重影响了用户体验和开发工作流的连续性。针对这一现象，有社区分析人士指出，这可能与 ChatGPT 激增的日活跃用户数有关，推测其日活已突破 2000 万大关，导致后端算力资源捉襟见肘，无法满足海量并发的高通量请求。更深层的声音指出，这暴露了当前人工智能商业模式的结构性矛盾：AI 产品为了盈利必须不断扩大用户规模，而用户规模的增加直接导致算力成本的指数级上升。为了维持服务稳定性，厂商不得不投入巨额资金建设算力中心，这种“烧钱换规模、规模倒逼烧钱”的模式被视为一种潜在的“商业死循环”，引发了业界对于大模型服务长期可持续性和成本控制机制的广泛担忧。
事件分析
此次 ChatGPT 出现的流式传输中断问题，直接指向了生成式 AI 在大规模工程化落地时的基础设施瓶颈。从技术视角看，流式响应对网络稳定性和后端推理队列的调度要求极高，尤其是涉及 Codex 等代码生成任务时，单次请求的 Token 消耗量大且处理时间长，极易造成 GPU 集群的资源阻塞。这并非单一公司的个案，而是整个行业面临的“算力墙”问题。随着模型参数量的增加和用户基数的扩大，推理阶段的边际成本并未显著下降，反而在高峰期面临巨大的负载压力。产业层面，这迫使云厂商和模型提供商必须从单纯的模型比拼转向软硬协同优化，例如通过模型蒸馏、量化技术或混合专家架构（MoE）来降低推理成本。此外，这也可能加速边缘计算或端侧模型的发展，以分流云端算力的集中负载压力。
核心观点：算力成本与稳定性已成为大模型商业化的最大掣肘，单纯烧钱换增长的“死循环”亟待通过技术革新或商业模式的重构来打破。
原文链接：V2EX 分享发现
评论前必须登录！
立即登录 注册