长上下文神话破灭？评测显示模型超200k tokens后性能大幅衰减

近日，LLM长上下文评测平台Context Arena的数据引发了技术社区的广泛热议。评测结果显示，尽管各大厂商纷纷宣称支持百万级上下文窗口，但当实际测试长度超过20万tokens时，主流大模型的综合得分均出现断崖式下跌，部分模型性能甚至直接“腰斩”。这一数据揭示了当前大模型在处理超长文本时面临的“注意力衰减”困境，即模型在长序列末端的检索和推理能力显著下降，常出现“迷失中间”现象。业界分析指出，若模型无法在超长上下文中保持稳定的准确率，盲目追求100万甚至1000万tokens的窗口不仅缺乏实际应用价值，还会徒增推理算力成本和响应延迟。该评测对当前“卷长文本”的行业趋势提出了理性质疑，强调了长上下文实用性比单纯的参数上限更为关键。

事件分析

核心观点：百万级上下文在实战中遭遇性能腰斩，宣告了单纯比拼参数长度的“军备竞赛”已触及技术天花板。