Indietro
Modello
Qwen 0.5B · GRPO maths
Finalità
Un modello piccolo può imparare sia a risolvere un problema di matematica sia a presentare la risposta? Questo Qwen da mezzo miliardo di parametri ha svolto un solo passaggio sui problemi di GSM8K. Scrive la soluzione e riserva una sezione al risultato finale. Durante l’addestramento con GRPO, ricompense specifiche controllavano separatamente il valore numerico e il formato. Una soluzione ben impaginata può comunque contenere un errore di calcolo.
Documenti originali
Fonte originale · huggingface.co Qwen2.5-0.5B-InstructCitazione
Qwen 0.5B · GRPO maths · https://huggingface.co/emre/Qwen-0.5B-GRPO