arXiv cs.AI / cs.LG 最新· Saket Reddy·· 15 小时前精选AI 评分70
SimpleLoRIF 用梯度把微调后的安全退化追溯到训练数据
Follow the Gradient: Tracing Safety Degradation Back to Training Data
AI 导读
论文提出梯度嵌入方法 SimpleLoRIF，用来筛出微调数据中会导致模型安全退化的样本。它简化了低秩归因方法并把反向传播限制在最后四个 Transformer 模块，可处理百万量级样本，在错位模型的梯度空间中 AUC 最高 0.865。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
推荐理由
做指令微调数据清洗的团队可以先用 SimpleLoRIF 按梯度对齐度筛掉高风险样本，再参考 SafeTulu 的删除比例做对比实验。
来源：arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。