一份针对Qwen3.8-27B模型的取证评估报告揭示了其在企业级部署中的三个致命隐患。首先是“静默数据篡改”,由于词表中混入了大量未经充分训练的“故障令牌”,当处理包含特定乱码的用户名或订单号时,模型会生成格式完全正确但内容完全错误的JSON数据,导致业务系统在无报错情况下被污染。其次是“隐私反射”机制,模型在归档任务中会无理拒绝合法的内部记录(如税务ID或工单),却在摘要任务中泄露这些信息,这种过度防御行为不仅无效且伴随数据泄露。最后是时间戳幻觉,模型会将过时的训练数据自信地宣称为当前事实。对比测试显示,Qwen3.8在词表质量控制上落后于Gemma等竞争对手,且引入了其前代模型不存在的过度拒答行为。
事件分析
核心观点:格式正确不代表数据可信,词表清洗与内部探针检测应成为企业级模型发布的硬性门槛。
原文链接:Hacker News

评论前必须登录!
立即登录 注册