Kimi K3 等国产模型开启社区部署测试,日 Token 供应量突破 35B

Linux.do 社区知名公益项目“小鸡毛”近日宣布,已成功在火山方舟架构上测试并部署了包括 Kimi K3 在内的多款国产大模型,并开启限量体验。该项目透露,目前主要受限于服务器并发处理能力(400 RPM 压力已较大),暂时仅对 1500 名订阅用户开放。尽管如此,该项目展现了快速的成长性:从早期的一周仅提供 5B Token、限速 5 RPM,进化至如今单日提供 35B Token、默认限速 20 RPM 且支持 5 并发。这一数据显著反映了国产模型基础设施的成熟与社区服务能力的提升。此外,该帖文还提及了“国产肥波 5”的出现及“PP 渠道”的复苏,指出当前市场上涌现了大量无门槛注册的公益站点。项目方表示,未来目标是在保证稳定性的前提下,为社区提供纯净的 GPT 级模型服务,不盲目追求用户规模,致力于在用户急需 Token 时提供稳定的接入支持。

事件分析

从技术视角看,Kimi K3 在社区环境下的部署测试,揭示了国产大模型正逐步具备支撑高并发、大流量调用的服务能力。该项目通过火山方舟平台实现日 35B Token 的吞吐量,表明经过优化的国产算力方案已能满足中小规模社区的密集推理需求。这不仅是对国产模型 API 稳定性的实战检验,也反映了当前国内 AI 爱好者社群对于非官方、低成本算力聚合模式的探索。同时,“PP 渠道”的复苏与大量公益站点的涌现,显示出在商业 API 之外,去中心化的资源分发正在成为获取高级模型能力的重要补充渠道。随着基础设施升级,此类社区级服务有望进一步缓解开发者获取优质模型资源的门槛与成本。

💡 核心观点:国产大模型 API 生态的成熟降低了部署门槛,社区项目的高负载运营验证了本土化高并发推理服务的技术可行性。

原文链接:Linux.do

C code80.ai · AI 编码 API 聚合 Claude / GPT 多模型统一接入,稳定不限速,按量计费,几行配置接入 Claude Code。 了解一下 ›

抢沙发

评论前必须登录!

立即登录   注册