Anthropic发布FlashProve验证模型输出

Anthropic 发布开源研究原型 FlashProve，用 zkSNARK 为模型输出生成密码学证明，让用户确认回复确实来自所声称的模型，同时不暴露模型权重。代码、Lean 证明和文档以 Apache 2.0 许可在 GitHub 公开。 该系统要求 AI 实验室为每个模型发布不暴露权重的指纹，验证可在本地设备完成，因此也可用于商业闭源模型。 该原型目前有两项限制：只能证明不超过 1,024 token 的上下文，远低于当前模型的上下文窗口；且仅在模型选择最可能的下一 token 时有效，不适用于聊天机器人日常使用的随机化输出。Anthropic 称研究仍在进行，暂无在 Anthropic 或其他实验室部署的计划。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。