2026 · Açık deney, rapor ve kod
Editing Neural Networks with Language Models
Dil modellerinden iki ayrı görev için küçük ağırlık değişiklikleri önermelerini istedim. İlk hedef hasarlı bir sınıflandırıcı, ikincisi sağlam bir dil modeliydi.
Araştırma sorusu
Bir model başka bir modelin ağırlıklarını düzenleyebilir mi?
Bulgular ve kapsam
UCI Adult gelir sınıflandırıcısında bazı ağırlıkları kalıcı olarak devre dışı bıraktım. Sol ve Astra kalan ağırlıklara değişiklik önerebiliyordu. Ortak arama ise ikisinin deneme geçmişinden yararlanabiliyordu. Ayrı bir deneyde sağlam SmolLM2-1.7B için önerilen değişiklikleri ARC-Easy fen soruları ve PIQA fiziksel akıl yürütme sorularıyla sınadım. İki deneyde de başlangıçtaki ağırlıkları korumak mümkündü.
Değerlendirmeye ayrılan 16.281 Adult örneğinde Sol’un düzenlemesi, sınıfları eşit ağırlıklandıran dengeli doğruluğu %78,59’dan %79,02’ye çıkardı. Genel doğruluk %82,86’dan %82,63’e düştü ve olasılık tahminleri kötüleşti. SmolLM2 denemelerinin tamamında başlangıçtaki ağırlıklar seçildi. Bunlar tek bir keşif deneyinin bulguları.
- Katkı
- Davut Emre Taşar · Tek yazar
- Kaynakta geçen isimler
- Davut Emre Taşar
- Yayın durumu
- Açık deney, rapor ve kod
- Yayın veya platform
- GitHub
- Tanımlayıcı
- detasar/llm-weight-editing-study
Kaynaklar
Araştırma alanları · Ajan sistemleri · Dil