TasaractDavut Emre Taşar
वापस
मॉडल

Qwen 0.5B · GRPO maths

उद्देश्य

क्या एक छोटा मॉडल गणित का शाब्दिक प्रश्न हल करना और उत्तर को साफ़ ढंग से पेश करना, दोनों सीख सकता है? आधा अरब पैरामीटर वाले इस Qwen मॉडल ने प्रशिक्षण में GSM8K के सवालों पर एक चक्र पूरा किया। यह हल लिखता है और अंतिम उत्तर अलग खंड में रखता है। GRPO प्रशिक्षण में अलग पुरस्कारों ने संख्यात्मक उत्तर और प्रारूप को अलग-अलग जाँचा। करीने से लिखे हल में भी हिसाब गलत हो सकता है।

स्रोत दस्तावेज़

मूल स्रोत · huggingface.co Qwen2.5-0.5B-Instruct
उद्धरण

Qwen 0.5B · GRPO maths · https://huggingface.co/emre/Qwen-0.5B-GRPO