近日,Linux.do论坛有用户发帖称,因Gemini的回复质量不理想,其尝试借助Claude来优化给Gemini的提示词,结果被系统判定为疑似模型蒸馏行为,账号触发了KYC(Know Your Customer,身份验证)流程。该用户在完成验证后表示,不确定账号后续还能正常使用多久,相关情况引发社区讨论。
所谓模型蒸馏,指利用高性能模型生成的数据或输出,去训练或改进另一个模型。各大模型服务商的服务条款普遍禁止用户将模型输出用于训练竞争性模型。Google此前已在服务条款中对输出内容的使用方式作出限制,部分开发者反馈,Gemini API在某些使用模式下会要求提交身份证明文件进行验证,该机制被认为与防范大规模自动化调用及蒸馏行为有关。
此次事件反映出,普通用户在日常跨模型使用场景中也可能无意触发平台风控。当用户将A模型的输出经整理后大量输入B模型时,检测系统可能将其识别为蒸馏特征,进而要求身份验证或采取限制措施。目前社区用户普遍关注账号存活情况以及平台风控的判定标准是否公开透明。
事件分析
核心观点:蒸馏风控误伤日常提示词调优,暴露出模型厂商保护输出资产与开发者多模型协作之间的深层冲突。
原文链接:Linux.do


评论前必须登录!
立即登录 注册