Назад
Модель
Qwen 0.5B · GRPO maths
Назначение
Может ли небольшая модель научиться и решать текстовые задачи по математике, и оформлять ответ? Эта Qwen на полмиллиарда параметров прошла один цикл обучения на GSM8K. Она записывает решение и выносит итоговый ответ в отдельный раздел. При обучении с GRPO специальные функции вознаграждения оценивали числовой результат и формат по отдельности. Даже аккуратно оформленное решение может содержать ошибку в вычислениях.
Первичные документы
Первоисточник · huggingface.co Qwen2.5-0.5B-InstructБиблиографическая ссылка
Qwen 0.5B · GRPO maths · https://huggingface.co/emre/Qwen-0.5B-GRPO