作者Drew Breunig在AGNTCon大会上发表题为《上下文失败与修复》的演讲,系统梳理了上下文工程的发展脉络。2024年底,模型厂商曾寄望于超大上下文窗口解决一切问题,从Gemini 1.5的百万token到Llama 4 Scout宣称的千万token,但实践证明长上下文并非万能。作者归纳出四种核心失败模式:上下文污染(错误信息进入上下文并持续影响输出)、上下文干扰(过长上下文削弱模型对基础能力的调用)、上下文混淆(无关信息干扰推理)、上下文冲突(工具调用间相互矛盾)。Gemini 2.5在玩宝可梦时曾因训练数据中的FireRed版本细节而执着寻找’茶’,成为污染的典型案例。针对这些问题,业界已形成六类修复工具:上下文增强、工具装载、上下文隔离、上下文修剪、上下文卸载与摘要压缩,且已逐步集成进harness层。2026年,行业重心转向能自主管理上下文的智能体模型,GPT-5可连续执行约3.4小时任务,Gemini 3.1达6.4小时,Opus 4.6约12小时。由此催生两类新失败模式:’对抗权重’(模型过拟合训练环境的工具习惯)与’上下文惯性’(模型执着于既有方案不知放弃)。微软Fork-and-Flush研究与伯克利团队均验证了定期清空上下文、保留环境产物的有效性。作者预测2027年的核心挑战将是个人智能体长期运行中的记忆累积与冲突,战略性遗忘将成为新的研究方向。
事件分析
核心观点:模型越强大,越需要确定性代码来驾驭;Agent的下一个瓶颈不在更聪明,而在学会遗忘与放手。
原文链接:Hacker News

评论前必须登录!
立即登录 注册