Kimi官方在Linux.do论坛发文,披露了K3.1 Pro在网络能力治理方面的最新进展。官方表示,随着K3.1 Pro能力持续提升,团队投入精力研究其网络安全能力的来源及可控程度,分析评估了该模型的漏洞研究能力,并在训练过程中实施针对性控制,以降低潜在滥用风险,同时保留模型的通用实用性。开发过程中,团队观察到随着后训练规模扩大,模型的漏洞研究性能持续提升。追溯发现,网络攻防相关内容嵌入了中期训练的通用语料,相关任务也存在于强化学习环境组合中,这是使用广泛数据训练带来的自然副产品。内部模型的初步实验显示,若在中期训练和强化学习阶段均不移除相关数据,模型的下游网络攻防能力将大幅增强,这一发现为安全管控提供了具体抓手。在准备发布K3.1 Pro开放权重版本时,官方从两个训练阶段均识别并移除了网络攻防相关数据,同时保留了保障模型实用性所需的通用编程任务。官方还承诺,未来将在每一个训练阶段持续采取适当的控制措施,网络攻防相关数据的识别与限制便是其中之一。这被视为大模型厂商在能力边界管控与开放发布之间主动权衡的代表性实践。
事件分析
核心观点:当漏洞挖掘能力随规模自发涌现,数据源头治理成为开放权重时代少数可行的安全闸门。
原文链接:Linux.do

评论前必须登录!
立即登录 注册