深入解析GGUF:不仅是权重,本地大模型标准化还缺什么?
GGUF格式因将模型权重、词表、聊天模板及采样参数封装于“单...
GGUF格式因将模型权重、词表、聊天模板及采样参数封装于“单...
近期科技社区热议,许多用户为了通过App Store订阅Ch...
针对大语言模型在“文本编辑”而非“从头生成”场景的应用,研究...

作者:toy 先把两个词分清楚:Context 和 Cont...

这篇文章讲的是一个很容易被低估、但几乎所有 Agent 产品都会撞上的问题:上下文管理。Sally-Ann Delucia 这场分享的价值很直接,她没有泛泛谈“长上下文很重要”,直接把团队在真实产品里踩过的坑讲清楚了,尤其是为什么截断不行、为什么总结也不稳,以及最后为什么留下来的是一套更克制的 context + me

很多人现在一提 eval,脑子里冒出来的还是老三样:题库、benchmark、离线跑分、回归测试。这个思路在过去不是错的。问题是,今天的 agent 系统已经越来越不像“一个发布后基本不动的程序”了。它会接工具、会吃上下文、会随着用户习惯漂移,甚至连 harness 自己都可能被改写。你还拿一套静态题库去盯它,基本等于
一位开发者在社区反馈,长期使用 OpenAI 的 Codex...
随着大模型应用的深入,AI回答“车轱辘话”多、输出冗长的问题...
随着大模型频繁更新,用户常怀疑模型变“笨”或受到更多限制。该...
近日,有社区用户爆料,其公司通过监控“llm-proxy”代...
一位开发者在测试中发现,启用MCP(模型上下文协议)及大量S...
针对 NewAPI 等现有工具对于小团队或个人共享场景过于臃...