TasaractDavut Emre Taşar
Zurück
Modell

Gemma 2 · Turkish Wikipedia

Zweck

Wer einen türkischen Text beginnt, kann diese Version von Gemma 2 9B weiterschreiben lassen. Als Lesestoff für eine zusätzliche Runde Vortraining diente die türkischsprachige Wikipedia. Mit der LoRA-Methode wurde nur eine kleine Gruppe von Parametern angepasst. Für die Auswertung blieben 1.000 Wikipedia-Absätze zurück. An ihnen ließ sich messen, wie gut das Modell in ungesehenen Texten aus derselben Quelle das nächste Token vorhersagt.

Quelldokumente

Originalquelle · huggingface.co Google Gemma 2 9B Turkish Wikipedia
Zitat

Gemma 2 · Turkish Wikipedia · https://huggingface.co/emre/gemma-2-9b-Turkish-Lora-Continue-Pre-Trained