TasaractDavut Emre Taşar
戻る
モデル

小規模 Qwen による数学推論

小さなモデルは解答を順序立てて書けるか。

小さなモデルは算数の文章題を解くことと、答えを整理して書くことの両方を学べるでしょうか。この 5 億パラメータの Qwen は GSM8K の問題で 1 エポック訓練しました。解き方を書き、最終的な答えは独立した欄に記します。GRPO による訓練では数値の正しさと出力形式を別々の報酬で確認しました。見た目が整った解答にも計算ミスは起こり得ます。

原題

Qwen-0.5B-GRPO: A Fine-Tuned Math Reasoner

一次資料

原典 · huggingface.co huggingface.co
引用情報

Davut Emre Taşar · Qwen-0.5B-GRPO: A Fine-Tuned Math Reasoner · 2025 · emre/Qwen-0.5B-GRPO · https://huggingface.co/emre/Qwen-0.5B-GRPO