不公开权重,也能证明「这句话是哪个模型说的」

不公开权重,也能证明「这句话是哪个模型说的」

Anthropic 开源了一套可证明推理系统 FlashProve。它解决的是一个正在变得紧迫的问题:怎么证明一段 AI 输出,确实来自你所声称的那个模型。

FlashProve 基于零知识证明:模型提供方无需公开权重,就能向验证方证明某段回答确实由其承诺的模型生成。

性能数据:在 4000 亿参数的 MoE 模型 Llama 4 Maverick 上,单张 H100 的证明吞吐约 110 Token/s,每份证明约 18.78MB,CPU 端验证约 17 秒。

代价是什么

证明消耗的 GPU 时间约为 vLLM 推理的 70 至 95 倍。这个倍数决定了它短期不可能全量部署——更现实的用法是抽查、审计、抽样取证,而不是每一句回答都附一份证明。

限制也很明确:目前仅支持 1024 Token 上下文、整数模型与贪婪解码。这三个约束指向同一件事:它现在只能覆盖受限场景,长文档、采样解码、浮点模型都还不在范围内。

只证来源,不证正确性

这是最容易被误解的一点。FlashProve 证明的是「这段话出自哪个模型」,而不是「这段话是对的」。模型仍然会幻觉,证明只是让责任可以被追溯。

这个区分在监管语境里很重要:内容标识要求解决的是「这是不是 AI 生成的」,而可验证推理解决的是「是哪个 AI 生成的」。前者防止混淆,后者防止推诿。当 API 服务商与客户就「你的模型输出错误内容」产生争议时,可验证来源是唯一能定责的技术手段。

与「水印」方案的区别

水印是往输出里嵌入统计特征,理论上可被改写、可被规避,尤其在经过改写、翻译、摘要之后。零知识证明提供的是密码学意义上的不可否认性:证明本身不依赖输出内容的统计特性,而是绑定到模型的推理过程。

代价是算力,收益是证据强度。这两种方案会长期共存:水印适合低成本的全量标识,零知识证明适合高价值的争议场景。

三个判断

  • 短期落地在合规审计与争议取证,不在日常推理。70 至 95 倍的算力开销决定了它只能是「抽检」工具。
  • 这个倍数会随着证明系统优化和硬件进步下降,但不会归零——密码学证明本身就有成本。
  • 当模型溯源成为硬性要求,「可验证」会像今天的 TLS 证书一样,成为基础设施的一部分,而不是可选项。

值得一提的是开源这个动作本身。把可验证推理的实现放出来,等于把「如何证明 AI 来源」从厂商自证变成行业可复现的标准讨论。对需要向监管或客户交代的团队来说,这是一个可以直接拿来用的起点。

信息来源:Anthropic 开源公告、腾讯研究院 AI 速递(2026-11-05)。

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注

滚动至顶部