TasaractDavut Emre Taşar
Назад
Модель

Qwen 0.5B · GRPO maths

Назначение

Может ли небольшая модель научиться и решать текстовые задачи по математике, и оформлять ответ? Эта Qwen на полмиллиарда параметров прошла один цикл обучения на GSM8K. Она записывает решение и выносит итоговый ответ в отдельный раздел. При обучении с GRPO специальные функции вознаграждения оценивали числовой результат и формат по отдельности. Даже аккуратно оформленное решение может содержать ошибку в вычислениях.

Первичные документы

Первоисточник · huggingface.co Qwen2.5-0.5B-Instruct
Библиографическая ссылка

Qwen 0.5B · GRPO maths · https://huggingface.co/emre/Qwen-0.5B-GRPO