TasaractDavut Emre Taşar
Retour
Modèle

Qwen-0.5B entraîné par GRPO

Un petit modèle peut-il structurer une réponse mathématique ?

Un petit modèle peut-il apprendre à résoudre un problème de maths et à présenter sa réponse ? Ce Qwen d’un demi-milliard de paramètres a effectué un passage sur les problèmes de GSM8K. Il rédige une solution et réserve une section au résultat final. L’entraînement par GRPO récompensait séparément l’exactitude numérique et le respect du format. Une solution bien présentée peut encore contenir une erreur de calcul.

Titre original

Qwen-0.5B-GRPO: A Fine-Tuned Math Reasoner

Documents sources

Source originale · huggingface.co huggingface.co
Référence

Davut Emre Taşar · Qwen-0.5B-GRPO: A Fine-Tuned Math Reasoner · 2025 · emre/Qwen-0.5B-GRPO · https://huggingface.co/emre/Qwen-0.5B-GRPO