美团开源 LongCat-2.0:首个支持国产万卡集群推理的万亿参数模型

7月6日,美团正式将其研发的万亿参数大模型 LongCat-2.0 进行开源。该模型总参数规模高达 1.6T,但在推理过程中采用了高效的稀疏化策略,平均激活参数量约为 48B。LongCat-2.0 的定位明确,即专为解决真实的 Agentic Coding(AI 智能体编程)任务而设计。在技术架构上,它创新性地引入了 LongCat 稀疏注意力机制与 N-gram 嵌入技术。这种架构创新有效提升了模型处理长上下文时的计算效率与检索准确性,同时强化了 Token 级别的语义表示能力。结合动态激活机制,模型在代码理解、生成逻辑以及执行结果验证上的表现得到了显著优化。

值得关注的是,LongCat-2.0 是业界首个在五万卡国产算力集群上完成推理任务的万亿参数大模型。针对国产芯片通常面临的显存容量较小、带宽受限等硬件瓶颈,美团在模型架构设计、芯片底层适配以及部署策略上进行了深度的软硬协同优化。这种优化策略使得万亿参数模型即便在存量的国产算力卡上,也能实现稳定、高效的运行,打破了高端大模型对进口高端算力的绝对依赖。

本次开源内容全面,不仅同步提供了 BF16、FP8 以及 INT8 等多种精度的模型权重,以适应不同算力平台的训练与部署需求,还特别开放了针对国产算力极致优化的推理代码。这意味着广大开发者和企业在没有最新、最强算力硬件的情况下,依然能够基于现有的硬件基础设施,成功部署并运行 LongCat-2.0,极大地降低了使用大规模 AI 模型的技术门槛与资金成本。

事件分析

LongCat-2.0 的开源在技术路径和产业生态上具有双重指标意义。在技术层面,通过 1.6T 总参数配合 48B 平均激活的稀疏化设计,以及 N-gram 嵌入技术的引入,该模型有效平衡了千亿级模型的“智力”与百亿级模型的“效率”,特别是针对长上下文和代码生成场景的优化,精准切中了 AI Agent 应用落地中对代码逻辑与执行能力的核心需求。

在产业层面,这是国产算力适配工作的一次重要突破。长期以来,万亿级模型的高昂推理成本和硬件依赖限制了其普及,美团通过“架构-芯片-部署”的深度协同优化,证明了在存量国产算力上运行万亿参数模型的可行性。这不仅解决了国产显存带宽受限的痛点,更为后续大模型在国产硬件上的落地提供了可复用的工程范式,有助于加速 AI 基础设施的国产化替代进程。

💡 核心观点:软硬协同优化让国产芯片“跑得动”万亿模型,将加速 AI 编程 Agent 在存量算力上的普惠化落地。

原文链接:Linux.do

C code80.ai · AI 编码 API 聚合 Claude / GPT 多模型统一接入,稳定不限速,按量计费,几行配置接入 Claude Code。 了解一下 ›

抢沙发

评论前必须登录!

立即登录   注册