Anthropic 研发 FlashProve 系统,用密码学证明 AI 模型身份
Anthropic 正在研发开源系统 FlashProve,为模型输出提供可证明推理的密码学证明,让用户确认回答确实来自所声称的模型。该系统要求 AI 实验室为每个模型发布不暴露权重的指纹,验证可在本地设备完成,因此也能用于商业闭源模型。研究人员已按开源协议在 GitHub 发布技术规格和部分代码,但研究仍在进行,暂无在 Anthropic 或其他实验室部署的计划。
Anthropic 正在研发开源系统 FlashProve,为模型输出提供可证明推理的密码学证明,让用户确认回答确实来自所声称的模型。该系统要求 AI 实验室为每个模型发布不暴露权重的指纹,验证可在本地设备完成,因此也能用于商业闭源模型。研究人员已按开源协议在 GitHub 发布技术规格和部分代码,但研究仍在进行,暂无在 Anthropic 或其他实验室部署的计划。
密歇根大学 Ang Chen 团队发布开源基准 CloudOpsBench 1.0,用 45 个 AWS 任务评测 AI 智能体处理典型 DevOps 操作的能力。
MIT 研究者在博客中展示,GPT-6 Astra 无需常规训练即可直接分析和修改其他 AI 模型的权重,他们把这一方法称为 Weight-Space Programming。
推荐理由:MIT 研究者展示大模型可直接读写其他模型的权重,并给出 Qwen3.5-0.8B 上的定向修复数据。
Anthropic 发布开源研究原型 FlashProve,用 zkSNARK 为模型输出生成密码学证明,验证回复确实来自所声称的模型,同时不暴露模型权重。
Simon Willison 用论文 Sparks of Weight-Space Programming 公开的提示词做本地复现,发现笔记本上运行的 Qwen 3.8 27B 仅凭原始权重数值就能识别出网络训练时玩的游戏。
Berkeley Sky Lab 与 IBM Research 将 K-Search 内核搜索框架扩展到 MLX,通过结构化 CUDA-to-MLX 翻译层让已有 CUDA 内核经验适配 Apple Silicon。
推荐理由:读者可以看到 CUDA 内核经验如何被结构化迁移到 Apple Silicon,以及翻译层在性能提升中的具体作用。