MIT:GPT-6 Astra 直接改写模型权重
先了解这件事
MIT CSAIL 研究人员在博客中展示,GPT-6 Astra 无需常规训练,就能直接读取并修改其他 AI 模型的权重,他们称这一方法为 Weight-Space Programming。在 Qwen3.5-0.8B 上,Astra 只改动约 0.016% 的权重,MATH-500 成绩从 7.9% 升至 48.1%,GSM8K 从 13.8% 升至 67.1%。 另一项实验中,网络每轮最多练习 128 局、共 50 轮,Astra 据此修正权重,击败了用约 2000 万局训练的同规模模型。但修改并未完全消除思考循环:仍有三分之一的回复触及最大文本长度,此前为 93%。实验日志已发布在 GitHub,修改后的 Qwen 模型已上传至 Hugging Face。 Simon Willison 用论文公开的提示词在本地复现了游戏识别实验:笔记本上运行的 Qwen 3.8 27B 仅凭原始权重数值就识别出网络训练时玩的游戏。复现需加载长上下文窗口,默认 8192 上下文会报错,还需调高超时设置。
AI 根据报道生成 · 32 分钟前更新
事件进展
2 个进展
- 11月4日 16:32 · 2 篇报道MIT研究展示GPT-6 Astra直接读写模型权重The Decoder:MIT 研究:GPT-6 Astra 可直接读写其他 AI 模型权重
- 11月4日 00:29 · 1 篇报道博主用Qwen 3.8 27B复现权重解读实验Simon Willison:笔记本上的 Qwen 3.8 27B 也能解读模型权重
报道时间线
沿着报道,了解事件的不同侧面。
- The Decoder精选MIT 研究:GPT-6 Astra 可直接读写其他 AI 模型权重
MIT 研究者在博客中展示,GPT-6 Astra 无需常规训练即可直接分析和修改其他 AI 模型的权重,他们把这一方法称为 Weight-Space Programming。
- 雷峰网精选MIT CSAIL 用 GPT-6 Astra 编辑 Qwen3.5-0.8B 权重,0.016% 参数改动让 MATH-500 从 7.9% 升至 48.1%
MIT CSAIL 提出 Weight-Space Programming,让 GPT-6 Astra 只读取 Qwen3.5-0.8B 的权重并直接修改参数,改动约 0.016% 的权重后,MATH-500 从 7.9% 提升到 48.1%,GSM8K 从 13.8% 升到 67.1%。
- Simon Willison笔记本上的 Qwen 3.8 27B 也能解读模型权重
Simon Willison 用论文 Sparks of Weight-Space Programming 公开的提示词做本地复现,发现笔记本上运行的 Qwen 3.8 27B 仅凭原始权重数值就能识别出网络训练时玩的游戏。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。