跳到正文
热点事件持续更新

MIT:GPT-6 Astra 直接改写模型权重

3 篇报道3 个报道来源20 小时前更新

先了解这件事

AI 综述

MIT CSAIL 研究人员在博客中展示,GPT-6 Astra 无需常规训练,就能直接读取并修改其他 AI 模型的权重,他们称这一方法为 Weight-Space Programming。在 Qwen3.5-0.8B 上,Astra 只改动约 0.016% 的权重,MATH-500 成绩从 7.9% 升至 48.1%,GSM8K 从 13.8% 升至 67.1%。 另一项实验中,网络每轮最多练习 128 局、共 50 轮,Astra 据此修正权重,击败了用约 2000 万局训练的同规模模型。但修改并未完全消除思考循环:仍有三分之一的回复触及最大文本长度,此前为 93%。实验日志已发布在 GitHub,修改后的 Qwen 模型已上传至 Hugging Face。 Simon Willison 用论文公开的提示词在本地复现了游戏识别实验:笔记本上运行的 Qwen 3.8 27B 仅凭原始权重数值就识别出网络训练时玩的游戏。复现需加载长上下文窗口,默认 8192 上下文会报错,还需调高超时设置。

AI 根据报道生成 · 32 分钟前更新

事件进展

2 个进展

  1. 11月4日 16:32 · 2 篇报道
    MIT研究展示GPT-6 Astra直接读写模型权重
    The Decoder:MIT 研究:GPT-6 Astra 可直接读写其他 AI 模型权重
  2. 11月4日 00:29 · 1 篇报道
    博主用Qwen 3.8 27B复现权重解读实验
    Simon Willison:笔记本上的 Qwen 3.8 27B 也能解读模型权重

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. The Decoder精选
    MIT 研究:GPT-6 Astra 可直接读写其他 AI 模型权重

    MIT 研究者在博客中展示,GPT-6 Astra 无需常规训练即可直接分析和修改其他 AI 模型的权重,他们把这一方法称为 Weight-Space Programming。

  2. 雷峰网精选
    MIT CSAIL 用 GPT-6 Astra 编辑 Qwen3.5-0.8B 权重,0.016% 参数改动让 MATH-500 从 7.9% 升至 48.1%

    MIT CSAIL 提出 Weight-Space Programming,让 GPT-6 Astra 只读取 Qwen3.5-0.8B 的权重并直接修改参数,改动约 0.016% 的权重后,MATH-500 从 7.9% 提升到 48.1%,GSM8K 从 13.8% 升到 67.1%。

  3. Simon Willison
    笔记本上的 Qwen 3.8 27B 也能解读模型权重

    Simon Willison 用论文 Sparks of Weight-Space Programming 公开的提示词做本地复现,发现笔记本上运行的 Qwen 3.8 27B 仅凭原始权重数值就能识别出网络训练时玩的游戏。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。