腾讯开源WeDLM-8B:扩散大模型性能突破

腾讯开源首个扩散大模型WeDLM-8B,基于扩散机制,拥有80亿参数。从Qwen3-8B初始化,经指令微调后提供基础版和Instruct版。性能测试显示,在数学推理任务上比vLLM优化的Qwen3-8B快3-10倍,例如计算1到100的和仅需0.22秒。在低复杂度任务中,每秒可生成上千词。模型已在Hugging Face开源,支持wedlm引擎优化推理。这使扩散式语言模型首次在实际速度上超过主流自回归模型,可能掀起扩散大模型的新浪潮。

原文链接:Linux.do

抢沙发

评论前必须登录!

立即登录   注册