חזרה
מודל
Gemma 2 · Turkish Wikipedia
מטרה
מתחילים לכתוב קטע בטורקית, והגרסה הזאת של Gemma 2 9B יכולה להמשיך אותו. ויקיפדיה בטורקית סיפקה את חומר הקריאה לסבב נוסף של אימון מקדים. שיטת LoRA צמצמה את העדכון לקבוצה קטנה של פרמטרים. בניסוי הושארו בצד 1,000 פסקאות מאותה ויקיפדיה, כדי למדוד עד כמה המודל מצליח לנבא את יחידת הטקסט הבאה בקטעים מאותו מקור שטרם ראה.
מסמכי מקור
מקור מקורי · huggingface.co Google Gemma 2 9B Turkish Wikipediaפרטי ציטוט
Gemma 2 · Turkish Wikipedia · https://huggingface.co/emre/gemma-2-9b-Turkish-Lora-Continue-Pre-Trained