TasaractDavut Emre Taşar
返回
代码仓库

用语言模型编辑神经网络

一个模型能修改另一个模型的权重吗?

语言模型能否通过修改权重修复受损的分类器?在 UCI Adult 收入分类任务中,研究先有意损坏分类器的权重。一项修改使平衡准确率提高了 0.43 个百分点,这项指标赋予两个收入类别相同的权重。整体准确率和概率估计的质量则有所下降。

另一项独立实验从完好的 SmolLM2-1.7B 开始。用科学知识题和日常物理推理题测试各个候选方案后,最终选中的是原始模型。

受损的分类器

UCI Adult · Sol

基线选定结果
平衡准确率78.59%79.02%
总体准确率82.86%82.63%

未受损的语言模型

SmolLM2-1.7B · ARC-Easy / PIQA

选用了原始权重

测量结果 · GitHub

原文标题

Editing Neural Networks with Language Models

原始文献

原始来源 · github.com 研究报告 交互式演示 测量结果 Editing Neural Networks with Language Models Study scope and methods
引用信息

Davut Emre Taşar · Editing Neural Networks with Language Models · 2026 · detasar/llm-weight-editing-study · https://github.com/detasar/llm-weight-editing-study