Modifier des réseaux de neurones avec des modèles de langage
Un modèle peut-il modifier les poids d’un autre ?
Un modèle de langage peut-il réparer un classifieur en modifiant ses poids ? Pour la tâche de revenus d’UCI Adult, les poids du classifieur ont été délibérément endommagés. Une modification a relevé de 0,43 point le taux de réussite équilibré, qui pondère également les deux classes de revenus. Le taux global et la qualité des probabilités estimées ont baissé.
Un autre essai est parti d’un SmolLM2-1.7B intact. Après des questions de sciences et de raisonnement physique du quotidien, la recherche a retenu le modèle initial.
Classifieur endommagé
UCI Adult · Sol
| Référence | Sélection | |
|---|---|---|
| Exactitude équilibrée | 78,59 % | 79,02 % |
| Exactitude globale | 82,86 % | 82,63 % |
Modèle de langage intact
SmolLM2-1.7B · ARC-Easy / PIQA
Poids d’origine retenus
Titre original
Editing Neural Networks with Language Models
Documents sources
Source originale · github.com Rapport de recherche Présentation interactive Mesures Editing Neural Networks with Language Models Study scope and methodsRéférence
Davut Emre Taşar · Editing Neural Networks with Language Models · 2026 · detasar/llm-weight-editing-study · https://github.com/detasar/llm-weight-editing-study