חזרה
מודל
Qwen 0.5B · GRPO maths
מטרה
האם מודל קטן יכול ללמוד גם לפתור בעיה מילולית במתמטיקה וגם להציג את התשובה בצורה מסודרת? מודל Qwen הזה, בעל חצי מיליארד פרמטרים, עבר פעם אחת על שאלות GSM8K במהלך האימון. הוא כותב פתרון ומקצה חלק נפרד לתשובה הסופית. באימון GRPO נבדקו בנפרד התוצאה המספרית ומבנה התשובה באמצעות תגמולים ייעודיים. גם פתרון מסודר יכול להכיל טעות בחישוב.
מסמכי מקור
מקור מקורי · huggingface.co Qwen2.5-0.5B-Instructפרטי ציטוט
Qwen 0.5B · GRPO maths · https://huggingface.co/emre/Qwen-0.5B-GRPO