TasaractDavut Emre Taşar
Zurück
Modell

Qwen 0.5B · GRPO maths

Zweck

Kann ein kleines Modell lernen, eine mathematische Textaufgabe zu lösen und die Antwort übersichtlich darzustellen? Dieses Qwen-Modell mit einer halben Milliarde Parametern absolvierte einen Trainingsdurchlauf mit GSM8K. Es schreibt den Lösungsweg auf und nennt das Ergebnis in einem eigenen Abschnitt. Beim GRPO-Training bewerteten eigene Belohnungsfunktionen das Zahlenergebnis und das Format getrennt. Auch eine sauber gegliederte Lösung kann einen Rechenfehler enthalten.

Quelldokumente

Originalquelle · huggingface.co Qwen2.5-0.5B-Instruct
Zitat

Qwen 0.5B · GRPO maths · https://huggingface.co/emre/Qwen-0.5B-GRPO