循环语言模型:AI推理能力新范式

谷歌团队等研究者提出了一种名为Ouro的循环语言模型(LoopLM)架构,将推理能力整合到预训练阶段,而非仅依赖后训练。该模型通过在潜在空间进行迭代计算、引入熵正则化目标函数,并扩展至7.7T token训练数据。实验显示,仅1.4B和2.6B参数的Ouro模型就能匹敌12B参数的SOTA LLM性能。研究证明其优势来自知识处理能力而非知识容量,且生成的推理轨迹比显式链式思考更与最终输出一致。这一创新为AI推理能力发展提供了新方向,模型已开源供业界研究使用。

原文链接:Hacker News

抢沙发

评论前必须登录!

立即登录   注册