Anthropic 研发 FlashProve 系统,用密码学证明 AI 模型身份
Anthropic 正在研发开源系统 FlashProve,为模型输出提供可证明推理的密码学证明,让用户确认回答确实来自所声称的模型。该系统要求 AI 实验室为每个模型发布不暴露权重的指纹,验证可在本地设备完成,因此也能用于商业闭源模型。研究人员已按开源协议在 GitHub 发布技术规格和部分代码,但研究仍在进行,暂无在 Anthropic 或其他实验室部署的计划。
Anthropic 正在研发开源系统 FlashProve,为模型输出提供可证明推理的密码学证明,让用户确认回答确实来自所声称的模型。该系统要求 AI 实验室为每个模型发布不暴露权重的指纹,验证可在本地设备完成,因此也能用于商业闭源模型。研究人员已按开源协议在 GitHub 发布技术规格和部分代码,但研究仍在进行,暂无在 Anthropic 或其他实验室部署的计划。
Anthropic 发布开源研究原型 FlashProve,用 zkSNARK 为模型输出生成密码学证明,验证回复确实来自所声称的模型,同时不暴露模型权重。
微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的程序,在 15 个基准程序上平均比现有最快 zkVM 快 10 到 39 倍,证明验证约 12 毫秒。
推荐理由:微软研究院梳理十余年零知识证明研究脉络,说明 Magnetar 如何在速度、通用性和后量子安全上同时推进。