向量数据库公司Chroma发布了Context-1,这是一个20B参数的专用搜索模型。该模型引入“自我编辑”机制,能在多轮搜索中主动剔除无关信息,有效解决上下文窗口臃肿问题。实测显示,其检索性能媲美GPT-4o等顶尖模型,但推理速度快10倍、成本极低。Context-1采用“搜索子代理”架构,仅负责检索,实现了搜索与生成的职责分离。
原文链接:Hacker News
向量数据库公司Chroma发布了Context-1,这是一个20B参数的专用搜索模型。该模型引入“自我编辑”机制,能在多轮搜索中主动剔除无关信息,有效解决上下文窗口臃肿问题。实测显示,其检索性能媲美GPT-4o等顶尖模型,但推理速度快10倍、成本极低。Context-1采用“搜索子代理”架构,仅负责检索,实现了搜索与生成的职责分离。
原文链接:Hacker News
评论前必须登录!
立即登录 注册