Anthropic开源FlashProve：用密码学证明大模型输出没被偷换

Anthropic发布可证明推理研究进展，推出FlashProve系统，基于zkSNARK零知识证明技术，让模型提供方能够以密码学方式证明每条回复确实来自其声称的特定模型。该技术旨在解决用户无法验证AI响应来源的问题——路由服务可能出于成本考虑暗中替换模型，或攻击者篡改令牌流。技术指标方面：针对4000亿参数的混合专家模型Llama 4 Maverick，在4-bit量化权重下，单张H100 GPU的证明生成速度约为每秒110个token，每1024-token请求的证明大小约19 MB，开销为vLLM直接推理的70-95倍，而此前开源系统慢数个数量级。值得注意的是，Claude在zkSNARK优化中发挥了核心作用，找到了将密码学与安全领域前沿工具应用于推理证明的新方法。针对AI优化决策难以评估的问题，团队使用形式化验证语言Lean为声明的安全保证提供了可审计的顶层证明。本次共开源五项成果：博客文章、技术报告、协议规范文档、包含C++快速验证器与Lean可证明正确验证器的可执行代码，以及Lean数学证明和交互式可视化审计工具，均采用Apache 2.0许可证发布。

事件分析

核心观点：当暗中替换模型成为API市场灰色地带，密码学证明正把AI可信度从商业承诺升级为可验证的数学事实。