TasaractDavut Emre Taşar
Retour
Modèle

Qwen 0.5B · GRPO maths

Finalité

Un petit modèle peut-il apprendre à résoudre un problème de maths et à présenter sa réponse ? Ce Qwen d’un demi-milliard de paramètres a effectué un passage sur les problèmes de GSM8K. Il rédige une solution et réserve une section au résultat final. L’entraînement par GRPO récompensait séparément l’exactitude numérique et le respect du format. Une solution bien présentée peut encore contenir une erreur de calcul.

Documents sources

Source originale · huggingface.co Qwen2.5-0.5B-Instruct
Référence

Qwen 0.5B · GRPO maths · https://huggingface.co/emre/Qwen-0.5B-GRPO