斯坦福研究:50 条被广泛引用的 LLM 结论中 44% 已失效
斯坦福研究者 Owen Queen 和 James Zou 用 8 家开发者 2024 年 7 月至 2026 年 9 月发布的 20 个模型,复测 50 条被广泛引用的 LLM 结论,发现 44% 已失效,另有 34% 明显减弱,仅 16% 仍成立、6% 反而增强。
斯坦福研究者 Owen Queen 和 James Zou 用 8 家开发者 2024 年 7 月至 2026 年 9 月发布的 20 个模型,复测 50 条被广泛引用的 LLM 结论,发现 44% 已失效,另有 34% 明显减弱,仅 16% 仍成立、6% 反而增强。
Anthropic 在周一更新的 S-1 文件中披露,截至 9 月 30 日的季度收入达 170 亿美元,高于上一季度的 115 亿美元,但算力成本占收入比例从 48% 升至 58%,当季算力支出达 100 亿美元。文件显示其中 50 亿美元算力来自短期承诺,成本显著高于多年期合约,公司预计算力和基础设施支出在可预见的未来仍将是最大运营开支。
Anthropic 正在研发开源系统 FlashProve,为模型输出提供可证明推理的密码学证明,让用户确认回答确实来自所声称的模型。该系统要求 AI 实验室为每个模型发布不暴露权重的指纹,验证可在本地设备完成,因此也能用于商业闭源模型。研究人员已按开源协议在 GitHub 发布技术规格和部分代码,但研究仍在进行,暂无在 Anthropic 或其他实验室部署的计划。
前 Claude Code 产品负责人 Cat Wu 在 X 上宣布加入 OpenAI,出任核心产品组产品负责人,向 Tibo 汇报,OpenAI 总裁 Greg Brockman 转帖欢迎。
Latent Space 的 AINews 汇总 11 月 3 日至 4 日动态:Cat Wu 离开 Anthropic 的 Claude Code 团队加入 OpenAI 负责 Core Products PM,Sharon Zhou 离开 AMD 加入 Anthropic,Factory 收购 HumanLayer,Meta 收购 Conductor。
支持与反对 AI 行业的政治团体在周二中期选举中投入数百万美元,结果参差不齐,多名获得重金支持的候选人落败。
Latent Space 汇总 11 月 2 日至 3 日的 AI 新闻,重点讨论“权重空间编程”的多个独立复现与质疑。多组报告称前沿 LLM 可直接生成或编辑小型网络权重,Alex Krentsel 的复现显示最新模型生成的 Breakout 网络得分达 RL 基线 22 倍,Hugging Face 也用 ML Intern 复现并开源模型与 demo。
Anthropic 通过邮件通知 API 客户,将于 2026 年 11 月 16 日起为 Claude Opus 4.6、Opus 4.5、Sonnet 4.5 和 Haiku 4.5 加文本水印,Amazon Bedrock 上可能延后几天;Opus 4.6 原定 11 月 3 日上线,Anthropic 确认延期但未说明原因。
Anthropic 发布开源研究原型 FlashProve,用 zkSNARK 为模型输出生成密码学证明,验证回复确实来自所声称的模型,同时不暴露模型权重。
Anthropic 为 Claude 新增系统提示词规则,禁止复刻特定现有游戏,即使改名或声称原创也不行。该规则以 "tengu_heron_brook" 之名出现在 10 月 30 日发布的 Claude Code 2.1.314 版本中,Claude Opus 5.5 另有独立限制。此举或能帮 Anthropic 规避部分责任,但难以减缓近月来的 AI 游戏移植与复制潮。
MIT Technology Review 发文指出,随着 Meta 的 Muse、OpenAI 的 Dots 和 Anthropic 的 Claude Duet 等智能体获得邮箱和银行账户访问权限,伯纳斯-李设想的语义网正以智能体网络的形式成为现实。
Arca 的 AI 智能体承担财富管理中的长周期任务,单个任务最长可达十天,但交易和资金流动仍由人类顾问最终决策。公司自建 harness 按内部基准自动选择模型,主要使用 Claude,并配套内部记忆系统追踪每位客户的进展与责任人。安全限制完全确定性,智能体仅做分析与方案建议,另设沙箱与格式校验防范提示词注入。
Anthropic 面向 Claude 模型的官方 VS Code 扩展在 Cursor 市场被植入后门,恶意版本 2.1.313 通过 Anthropic 官方账号分发,影响最多 5000 名用户。
Partnership on AI 的研究者指出,当前主流 Agent 框架无法可靠生成安全监控所需的可观测性记录,缺少持久 Agent ID 和人工审批记录,导致难以判断哪个智能体做了什么、是否越权。