斯坦福研究:50 条被广泛引用的 LLM 结论中 44% 已失效
斯坦福研究者 Owen Queen 和 James Zou 用 8 家开发者 2024 年 7 月至 2026 年 9 月发布的 20 个模型,复测 50 条被广泛引用的 LLM 结论,发现 44% 已失效,另有 34% 明显减弱,仅 16% 仍成立、6% 反而增强。
斯坦福研究者 Owen Queen 和 James Zou 用 8 家开发者 2024 年 7 月至 2026 年 9 月发布的 20 个模型,复测 50 条被广泛引用的 LLM 结论,发现 44% 已失效,另有 34% 明显减弱,仅 16% 仍成立、6% 反而增强。
Google与Mercor近日发布Physical-Engineering's Last Exam(PLE),用85项机械、电气、土木与结构工程任务评测工程Agent。
密歇根大学 Ang Chen 团队发布开源基准 CloudOpsBench 1.0,用 45 个 AWS 任务评测 AI 智能体处理典型 DevOps 操作的能力。
GitHub 发布代码审查离线基准 ReviewBench,包含 219 个公开 PR、覆盖 19 种语言,分布参照 103.9M 个 GitHub PR 建模。基准采用多来源黄金集与统一评分规则,由资深工程师独立复核,真阳性判断一致率 96.6%。它提供 grounded 与 augmented 两族指标,可按严重程度和类别切片,并支持提交自有审查智能体上排行榜。