Anthropic 研发 FlashProve 系统，用密码学证明 AI 模型身份
Anthropic 正在研发开源系统 FlashProve，为模型输出提供可证明推理的密码学证明，让用户确认回答确实来自所声称的模型。该系统要求 AI 实验室为每个模型发布不暴露权重的指纹，验证可在本地设备完成，因此也能用于商业闭源模型。研究人员已按开源协议在 GitHub 发布技术规格和部分代码，但研究仍在进行，暂无在 Anthropic 或其他实验室部署的计划。
#安全/对齐
TechCrunch · AIAI 评分6060 The DecoderAI 评分5858 Anthropic 为多款 Claude 旧模型补加文本水印，默认采样参数限制可被绕开
Anthropic 通过邮件通知 API 客户，将于 2026 年 11 月 16 日起为 Claude Opus 4.6、Opus 4.5、Sonnet 4.5 和 Haiku 4.5 加文本水印，Amazon Bedrock 上可能延后几天；Opus 4.6 原定 11 月 3 日上线，Anthropic 确认延期但未说明原因。
AWS Machine Learning BlogAI 评分4242 Amazon Quick 推出 Smart Approvals，为 AI 智能体操作保留人工审核
Amazon Quick 上线 Smart Approvals，用独立的分类器模型对照用户请求评估符合条件的操作，自动放行或退回人工审核，且不额外授予权限、不取消强制人工审批。该功能默认开启，管理员可通过 Custom Permissions 控制使用范围，用户也可自行关闭。自动批准仅对当次审核的具体操作和参数生效，相关权限事件记录在 AWS CloudTrail 中。
The DecoderAI 评分6060 Anthropic 发布 FlashProve 原型，用密码学证明 AI 回复出自所声称的模型
Anthropic 发布开源研究原型 FlashProve，用 zkSNARK 为模型输出生成密码学证明，验证回复确实来自所声称的模型，同时不暴露模型权重。
OpenAI News精选AI 评分6262 OpenAI 构建自主流水线，在 Linux 内核中发现并验证 948 个本地提权漏洞
OpenAI 构建了一条自主流水线，用于发现、验证并生成补丁，覆盖 Linux 内核中的 948 个本地提权漏洞。材料仅提供摘要，未披露流水线的具体方法、漏洞细节与补丁去向。
推荐理由：OpenAI 披露一条自主流水线在 Linux 内核中发现并验证 948 个本地提权漏洞，可观察自动化漏洞挖掘的落地方式。
Ars Technica · AIAI 评分5858 乌克兰无人机打击后，俄罗斯科技公司筹划把数据中心转入地下
乌克兰无人机打击损坏了俄罗斯境内承载 AI 超算的设施并中断数百万用户的云服务后，俄罗斯科技公司正加紧加固和隐藏数据中心。国有电信公司 Rostelcom 与 Norilsk 镍钯矿业公司商谈将部分数据中心迁入地下，另有地方官员提议在露天煤矿内建设数据中心、上方以绿地公园作伪装。克里姆林宫同时要求数据中心所有者为国家紧急需求预留算力，并已授权在必要时使用境外数据中心。
MIT Technology Review · AIAI 评分4242 “逆向博弈论”如何约束 AI 智能体
一种名为“逆向博弈论”（机制设计）的新思路试图通过设计激励规则而非窥探模型内部来约束 AI 智能体。MIT 经济学家 Stephen Morris 等人的预印本论文提出让模型互相预测答案、互相对抗或配对偏向相反的模型，以阻止模型在测试中故意藏拙。普林斯顿 Elad Hazan 则设想让模型轮流扮演“解题者”与“审计者”，作弊者与失职审计者同受惩罚。
Ars Technica · AIAI 评分4242 Anthropic 为 Claude 新增禁止复刻现有游戏的规则，难挡 AI 复制潮
Anthropic 为 Claude 新增系统提示词规则，禁止复刻特定现有游戏，即使改名或声称原创也不行。该规则以 "tengu_heron_brook" 之名出现在 10 月 30 日发布的 Claude Code 2.1.314 版本中，Claude Opus 5.5 另有独立限制。此举或能帮 Anthropic 规避部分责任，但难以减缓近月来的 AI 游戏移植与复制潮。
Ars Technica · AIAI 评分7272 Anthropic 在 Cursor 上的 VS Code 扩展被植入后门近 12 小时
Anthropic 面向 Claude 模型的官方 VS Code 扩展在 Cursor 市场被植入后门，恶意版本 2.1.313 通过 Anthropic 官方账号分发，影响最多 5000 名用户。
MIT Technology Review · AIAI 评分5858 Partnership on AI 研究：AI 智能体缺乏实时可观测性，需补齐行为记录
Partnership on AI 的研究者指出，当前主流 Agent 框架无法可靠生成安全监控所需的可观测性记录，缺少持久 Agent ID 和人工审批记录，导致难以判断哪个智能体做了什么、是否越权。
Microsoft Research精选AI 评分6262 微软研究院发布 Magnetar：基于标准哈希函数的通用零知识证明系统
微软研究院发布零知识虚拟机 Magnetar，可直接证明用 Rust、Go 或 C 编写的程序，在 15 个基准程序上平均比现有最快 zkVM 快 10 到 39 倍，证明验证约 12 毫秒。
推荐理由：微软研究院梳理十余年零知识证明研究脉络，说明 Magnetar 如何在速度、通用性和后量子安全上同时推进。
Google DeepMindAI 评分5858 Google DeepMind 与新加坡政府合作微调端侧诈骗检测模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型微调出可在设备端运行的诈骗检测模型，用于识别冒充公共机构、银行和本地人物的诈骗对话。
Google DeepMind精选AI 评分8080 Google DeepMind 发布 Gemini 4 Argon 安全与安保报告
Google DeepMind 公布 Gemini 4 Argon 的安全与安保报告，说明在网络安全和生物领域能力提升后，如何通过前沿防护措施防止滥用。Argon 在 12 个端到端模拟网络攻击场景中全部完成，上一代为 5 个；对抗测试中的违规行为减少近一半，外部生物越狱红队仅解锁不到 1% 的生物子任务。
推荐理由：原文披露了 Gemini 4 Argon 在网络安全与生物滥用防护、失准监控和提示词注入上的具体测试数据，可据此了解前沿模型的安全部署流程。
GitHub Blog · AI & MLAI 评分5858 GitHub 推出基于 ModernBERT 的通用密钥检测模型
GitHub 发布基于 ModernBERT 的通用密钥检测分类器，可在 2 毫秒内评估一批候选密钥，并称可将可拦截的密钥数量提升一倍以上。该模型与 Microsoft Applied Sciences 合作构建，利用上下文识别数据库 URL、Kubernetes Secret manifest 和 Dockerfile 中无固定格式的密码类值。