2026 · Açık deney, rapor ve kod

Editing Neural Networks with Language Models

Dil modellerinden iki ayrı görev için küçük ağırlık değişiklikleri önermelerini istedim. İlk hedef hasarlı bir sınıflandırıcı, ikincisi sağlam bir dil modeliydi.

Araştırma sorusu

Bir model başka bir modelin ağırlıklarını düzenleyebilir mi?

Bulgular ve kapsam

UCI Adult gelir sınıflandırıcısında bazı ağırlıkları kalıcı olarak devre dışı bıraktım. Sol ve Astra kalan ağırlıklara değişiklik önerebiliyordu. Ortak arama ise ikisinin deneme geçmişinden yararlanabiliyordu. Ayrı bir deneyde sağlam SmolLM2-1.7B için önerilen değişiklikleri ARC-Easy fen soruları ve PIQA fiziksel akıl yürütme sorularıyla sınadım. İki deneyde de başlangıçtaki ağırlıkları korumak mümkündü.

Değerlendirmeye ayrılan 16.281 Adult örneğinde Sol’un düzenlemesi, sınıfları eşit ağırlıklandıran dengeli doğruluğu %78,59’dan %79,02’ye çıkardı. Genel doğruluk %82,86’dan %82,63’e düştü ve olasılık tahminleri kötüleşti. SmolLM2 denemelerinin tamamında başlangıçtaki ağırlıklar seçildi. Bunlar tek bir keşif deneyinin bulguları.

Birincil kaynak

Katkı
Davut Emre Taşar · Tek yazar
Kaynakta geçen isimler
Davut Emre Taşar
Yayın durumu
Açık deney, rapor ve kod
Yayın veya platform
GitHub
Tanımlayıcı
detasar/llm-weight-editing-study

Kaynaklar

Araştırma alanları · Ajan sistemleri · Dil

İlgili çalışmalar