Zurück
Modell
Qwen 0.5B · GRPO maths
Zweck
Kann ein kleines Modell lernen, eine mathematische Textaufgabe zu lösen und die Antwort übersichtlich darzustellen? Dieses Qwen-Modell mit einer halben Milliarde Parametern absolvierte einen Trainingsdurchlauf mit GSM8K. Es schreibt den Lösungsweg auf und nennt das Ergebnis in einem eigenen Abschnitt. Beim GRPO-Training bewerteten eigene Belohnungsfunktionen das Zahlenergebnis und das Format getrennt. Auch eine sauber gegliederte Lösung kann einen Rechenfehler enthalten.
Quelldokumente
Originalquelle · huggingface.co Qwen2.5-0.5B-InstructZitat
Qwen 0.5B · GRPO maths · https://huggingface.co/emre/Qwen-0.5B-GRPO