OpenAI发布《对抗性蒸馏防御》报告,系统阐述其应对未经授权蒸馏攻击的安全策略。对抗性蒸馏指攻击者利用前沿模型输出训练另一模型,使其获得先进能力却不继承原有安全防护,在网络安全、生物等双用途领域风险尤为突出。OpenAI内部实验显示,学生模型若能获取教师模型的完整推理轨迹(思维链),在ExploitBench、SEC-bench Pro等网络安全基准上的表现显著优于仅使用推理摘要训练的模型,表明保护精确推理轨迹可有效限制网络攻击能力的转移。为此,OpenAI在GPT-6.2 Astra与GPT-6.2 Sol中强化防护:通过对抗训练、输入输出分类器、API级控制阻止推理轨迹提取,并配合账户级调查打击协同蒸馏活动。自适应黑盒红队测试显示,从早期请求提取受保护推理的攻击成功率从GPT-6 Astra的54.0%降至GPT-6.2 Astra的0.2%。OpenAI披露今年已持续开展周度执法,封禁账户规模从数千至数万不等;2月曾向美国国会通报DeepSeek涉嫌蒸馏美国前沿模型,9月则将部分推理提取活动归因于月之暗面相关人员,并表态支持《芯片安全法案》《AI OVERWATCH法案》等多项立法。
事件分析
核心观点:思维链从可观测特性升级为受保护的战略资产,AI竞争焦点正从算力转向推理数据主权。
原文链接:Hacker News

评论前必须登录!
立即登录 注册