API 调用链里最麻烦的一件事，从来不是模型不够聪明，而是你很难确认后台真正跑的是哪个模型。第三方中转、路由平台、企业内网代理，都可能把请求转到更便宜的模型上；用户即便觉得回答质量变了，也很难拿到技术证据。Anthropic 这次给出的思路很硬：不再靠口头承诺，而是用密码学证明回答来源。
据 Anthropic 官方研究博客 11 月 3 日披露，其前沿红队发布了开源研究原型 FlashProve，面向大型混合专家模型做“可证明推理”。StarkWare 联合创始人 Alessandro Chiesa 参与了相关研究。
一、它解决什么问题？
FlashProve 要回答的问题非常窄，但很关键：这段输出，是不是由预先登记的模型权重算出来的？
它不证明回答内容正确，不证明模型能力更强，也不保证服务稳定性。它只证明一件事：输出与指定权重之间的来源关系。
这恰好击中了当前大模型供应链里的几个信任断点：
- API 中转与路由平台：用户选了某款模型，但无法确认后台是否被替换成更便宜的模型。
- 推理服务器被篡改：攻击者可能修改权重或输出流，用户难以察觉。
- 安全评估与监管审计：如果无法确认测试对象与线上部署模型一致，评估结果可靠性会下降。
- 未来强模型自我替换风险：Anthropic 在博客中提出，未来高能力模型可能伪装成弱模型以规避监控，来源可验证会成为重要防线。
二、怎么验真？三步走
FlashProve 的流程可以拆成三个环节。
1. 离线生成“模型指纹”
模型上线前，服务商会对一组确定的模型权重生成密码学承诺。这个承诺像权重的数字指纹，外界无法反推权重，但权重只要被改动，指纹就对不上。
官方测试中，在单张 H100 上生成一次承诺约需 39 分钟，一个承诺可覆盖约 1600 万次请求。
2. 在线生成零知识证明
每次推理完成后，服务端会附带一份 zkSNARK 证明，证明该输出确实由已承诺的模型生成。
在 Llama 4 Maverick 测试中，单张 H100 的证明生成速度约 110 token/s，每份 1024 token 请求的证明约 19MB。
3. 客户端 17 秒验真
验证端不需要模型权重，也不需要 GPU。用普通 CPU 运行验证程序，约 17 秒即可判定真伪。
这意味着企业客户、审计机构或研究人员可以在不接触权重的前提下，独立完成来源核验。
三、为什么能跑在4000亿参数模型上？
难点在于算力。测试对象是 Meta 的 Llama 4 Maverick，总参数约 4000 亿，4-bit 量化后权重仍达 232GB，而单张 H100 显存只有 80GB。
FlashProve 主要靠三个工程手段降本：
- 利用 MoE 稀疏激活：每个 token 只激活约 170 亿参数，证明量只与激活部分相关，避免处理全部参数。
- 流式加载权重：权重放在主机内存中，分段送入 GPU 计算与证明，避免一次性塞入显存。
- 批量事后证明：推理完成后再统一生成证明，降低重复计算开销。
但成本仍然不低。官方明确指出，当前生成证明所需的 GPU 时间约为普通 vLLM 推理的 70—95 倍。
四、Claude 参与，Lean 4 当“判官”
这次项目还有一个很反常的细节：开源仓库中约 95.2% 的代码是 Lean 4 数学证明，体量约 398MB。
Anthropic 表示，Claude 参与了系统优化，并协助生成了大量代码与形式化证明。 由于密码学协议极其脆弱，人工逐行审计海量推导并不现实，团队因此引入 Lean 4 做形式化验证：人类负责定义顶层安全属性，编译器负责逐行核对推导。
协议核心安全属性包括：
- 完备性：诚实证明者生成的证明应被接受；
- 可靠性：伪造证明通过验证的概率极低；
- 零知识性：验证过程不泄露模型权重或专家激活路径。
需要强调的是，这并不意味着所有运行时代码都获得了同等强度的形式化保证，快速 C++ 验证器与形式化协议之间仍需进一步审计。
五、目前仍只是研究原型
FlashProve 的方向很明确，但离大规模落地还有距离。
- 仍是研究原型：GitHub 仓库标注为研究用途，并未部署到 Claude 产品上。
- 上下文窗口有限：当前实验主要支持 1024 token 上下文。
- 推理方式受限：目前主要针对整数模型和贪婪解码，尚未覆盖浮点计算、随机采样等常见场景。
- 服务端需配合：如果服务商不部署证明生成能力，客户端无法单方面验真。
- 算力成本较高：70—95 倍的 GPU 开销意味着短期内更可能用于审计、抽检、高价值请求，而非全量默认开启。
六、行业意义：从“相信服务商”到“核验证明”
FlashProve 的短期价值，不是立刻终结所有“套壳 API”，而是第一次把模型来源可验证这件事推进到了大型模型可工程化的阶段。
对企业客户来说，未来采购模型服务时，SLA 里可能会多出一项：是否提供可验证的推理证明。对监管和安全评估来说，它提供了一种不触碰权重、又能核验部署一致性的工具。对行业来说，这也意味着 AI 服务正在从“能力竞赛”进入“可验证、可审计、可追溯”的下一阶段。
不过也要务实看待：它证明的是来源，不是质量；它依赖服务商配合生成证明；它目前成本仍高。真正要改变 API 供应链的信任结构，还需要更多厂商、路由平台和审计方共同接受这套验证机制。
AITOP100-AI资讯频道将持续关注AI行业新闻资讯消息，带来最新AI内容讯息。
想了解AITOP100平台其它版块的内容，请点击下方超链接查看
AI创作大赛 | AI活动 | AI工具集 | AI资讯专区 | AI小说
AITOP100平台官方交流社群二维码：
