TasaractDavut Emre Taşar
חזרה
מודל

Qwen 0.5B · GRPO maths

מטרה

האם מודל קטן יכול ללמוד גם לפתור בעיה מילולית במתמטיקה וגם להציג את התשובה בצורה מסודרת? מודל Qwen הזה, בעל חצי מיליארד פרמטרים, עבר פעם אחת על שאלות GSM8K במהלך האימון. הוא כותב פתרון ומקצה חלק נפרד לתשובה הסופית. באימון GRPO נבדקו בנפרד התוצאה המספרית ומבנה התשובה באמצעות תגמולים ייעודיים. גם פתרון מסודר יכול להכיל טעות בחישוב.

מסמכי מקור

מקור מקורי · huggingface.co Qwen2.5-0.5B-Instruct
פרטי ציטוט

Qwen 0.5B · GRPO maths · https://huggingface.co/emre/Qwen-0.5B-GRPO