TasaractDavut Emre Taşar
Indietro
Modello

Qwen-0.5B addestrato con GRPO

Un piccolo modello può dare una risposta matematica ben strutturata?

Un modello piccolo può imparare sia a risolvere un problema di matematica sia a presentare la risposta? Questo Qwen da mezzo miliardo di parametri ha svolto un solo passaggio sui problemi di GSM8K. Scrive la soluzione e riserva una sezione al risultato finale. Durante l’addestramento con GRPO, ricompense specifiche controllavano separatamente il valore numerico e il formato. Una soluzione ben impaginata può comunque contenere un errore di calcolo.

Titolo originale

Qwen-0.5B-GRPO: A Fine-Tuned Math Reasoner

Documenti originali

Fonte originale · huggingface.co huggingface.co
Citazione

Davut Emre Taşar · Qwen-0.5B-GRPO: A Fine-Tuned Math Reasoner · 2025 · emre/Qwen-0.5B-GRPO · https://huggingface.co/emre/Qwen-0.5B-GRPO