Retour
Modèle
Qwen 0.5B · GRPO maths
Finalité
Un petit modèle peut-il apprendre à résoudre un problème de maths et à présenter sa réponse ? Ce Qwen d’un demi-milliard de paramètres a effectué un passage sur les problèmes de GSM8K. Il rédige une solution et réserve une section au résultat final. L’entraînement par GRPO récompensait séparément l’exactitude numérique et le respect du format. Une solution bien présentée peut encore contenir une erreur de calcul.
Documents sources
Source originale · huggingface.co Qwen2.5-0.5B-InstructRéférence
Qwen 0.5B · GRPO maths · https://huggingface.co/emre/Qwen-0.5B-GRPO