TasaractDavut Emre Taşar
Volver
Modelo

Gemma 2 · Turkish Wikipedia

Finalidad

Al empezar un pasaje en turco, esta versión de Gemma 2 9B puede escribir la continuación. Una ronda adicional de preentrenamiento tomó como material de lectura la Wikipedia en turco. La técnica LoRA concentró los ajustes en un pequeño conjunto de parámetros. El experimento reservó 1.000 párrafos de la misma Wikipedia para medir cómo predecía el siguiente token en pasajes que aún no había visto.

Documentos originales

Fuente original · huggingface.co Google Gemma 2 9B Turkish Wikipedia
Cita

Gemma 2 · Turkish Wikipedia · https://huggingface.co/emre/gemma-2-9b-Turkish-Lora-Continue-Pre-Trained