MIT提出权重空间编程：LLM直接修改权重提升Qwen3.5数学能力6倍

让 GPT-6 Astra 改 Qwen3.5-0.8B 0.016% 权重，就能修掉死循环，数学能力最高提升 ~6 倍、指令遵循提升 ~3 倍

来自 MIT CSAIL 的研究者们，发现一种新能力「Weight-Space Programming（权重空间编程）」：不靠梯度、不写训练循环，让通用前沿模型（GPT-6 Astra）对着自然语言目标，直接读或改神经网络的权重数字。早期结果覆盖「认行为」「修故障」「从零写小策略网」，以及给 Qwen3.5-0.8B 改约 0.016% 权重后，MATH-500 从 7.9% 提到 48.1%，指令遵循也跟着涨。作者们认为：以往 Adam / Muon 这类小符号优化器塞进的是人的粗糙先验，下一步可能是 LLM 有意推理权重本身。

https://rikiyat.github.io/blog/weight-space-programming/

和现在的做法差在哪？ 大家早就让 LLM 改提示词、改 harness、改训练代码和超参；理由常常是「文本不好用梯度爬」。权重一向留给可微优化或专门训出来的「写权重」网络。这篇主张：推理驱动的优化已经伸进可微网络的权重里，有时甚至完全没有环境反馈。

能读：只看权重猜行为 · 四个同结构 PPO 策略（17,253 权重，10×10 格、同一动作集），Astra 从原始权重文本猜出分别是 Breakout / Pong / Pac-Man / Freeway；靠的是首层权重落在哪一行、输出层怎么分动作等。 · 三个小扩散模型（圆/方/三角），不跑前向也能从权重认出形状；它画出的是轮廓，说明更像在读几何结构，而不是偷算一遍生成。 · 三个 7.2M 字符级语言模型，拿掉输入输出层只留中间四块 Transformer：仍能区分 Python / 罗马字日语 / 英语，并准确标出全部 copying（induction）头，且没把别的头误标成这类头，推理里还自己推到了类似 Elhage 等人的权重组合分析。

能改、能写 · Kinetix 上坡车：PPO 卡在「直冲坡」局部最优；Astra 一次回复改约 3.5% 权重，1024 局里成功率从 0 到 100%，加了一条读位置与速度的旁路，倒车蓄力后再交给原策略。 · MinAtar 三款游戏：无数据、无梯度、不让环境 rollout，一次性写出权重；分数压过训了 1 亿步的 PPO，Breakout 上相对 5 亿步 PPO 还高一个数量级。思路是把「程序」编进层：例如先算球落点，再驱动挡板。 · 约 148 万参数的 9×9 围棋网：权重进不了上下文，用 Python 沙箱读写张量；0 次前向就能打过更小的 PPO，50 次前向（每批最多 128 局练习）可打过同规模、训过约 2000 万局的 PPO。写法像手写小程序：气、危险棋串、提子/救子/禁入眼，再按练习失败改对应部位。

放大到语言模型 · 谄媚检测：两份同设置微调的 Gemma 3 270M（嵌入与输出层冻结），只看权重分不出谁谄媚；放开「自写文本上看注意力模式」后，三次都能挑出谄媚方，并指出中层头更盯用户暗示答案。 · 修好 Qwen3.5-0.8B 的思考死循环：模型卡本就警告该设定易循环。Astra 在 Python 里对着权重工作，用 GSM8K/MATH 练习题做有限前向（10/25/50），定位到第 15、19 层 MLP 写出的某个方向，从各 64 个输出列里减掉——共改 131,072 个权重（0.016%）。50 次前向前：MATH-500 7.9→48.1，GSM8K 13.8→67.1，IFEval 21.0→62.3，顶满 token 上限比例 93%→33%。 · 对照：不怎么循环的 Gemma 3 270M 上，失败是普通算错与非法代数步，找不到可拧掉的单一障碍；小改几乎不动 MATH-500。作者点明：权重编辑更像去掉挡住已有能力的障碍，还不等于凭空注入模型没有的能力。

他们展望什么 不跑评测就审计隐藏能力或后门；一次性初始化降低训练成本；少数据甚至零数据地转向/遗忘能力且少伤全身；递归自改进从「写启动训练的代码」变成「直接改权重」；跨架构嫁接电路而不只是同构平均。同时承认：上下文与 harness 仍很笨，正在做基准与 harness，要把「黑魔法」收成可复现工程。