關掉思考再訓練，Qwen3 竟越練越像思考模式！這份推理進步到底從哪來？

Qwen3 在關掉思考的模式下接受強化學習訓練後，回答越來越像自己原本的思考模式，作者稱為思考外洩。只動一個 8 維思考子空間，就抹掉 75% 的準確率提升。 ⭐ 文章深度讀：Qwen3 關掉思考再用強化學習訓練，竟越練越像思考模式 → https://heymaibao.com/qwen3-rl-thinking-leakage-8d06e5/ ⚡ 章節重點 思考開關的疑問 00:00 關掉思考的實驗與外洩 00:32 進步的來源與成因 01:33 推理升級的打折讀法 03:03 📝 懶人包 ∙ 研究把 1.7B 到 8B 的 Qwen3 關掉思考，再用強化學習訓練 ∙ 作者發現模型越練越像自己原本開著思考的樣子，叫它思考外洩 ∙ 作者指出，只動一個 8 維的思考子空間，就抹掉 75% 的準確率提升 ∙ 我的觀點：看到推理變強的宣傳，先分辨是新本事還是原本能力換個開法 📚 參考資料 Paper page - The Thinking Leakage in Reinforcement Learning for LLMs → https://huggingface.co/papers/2610.14270 A vision researcher’s guide to some RL stuff: PPO & GRPO - Yuge (Jimmy) Shi → https://yugeten.github.io/posts/2025/01/ppogrpo/ How to use and interpret activation patching → https://arxiv.org/html/2404.15255