arXiv cs.AI / cs.LG 最新· Yuan-Chen Chang·· 5 天前AI 评分55
CATCH 提出连续对抗训练方法，提升大语言模型诚实性并保持能力
CAT-alyzing Honesty: Continuous Adversarial Training for Transferable LLM Honesty
AI 导读
CATCH 是一种连续对抗训练方法，训练模型靠近诚实回答、远离不诚实回答，以提升大语言模型的诚实性。研究在 Llama-3.3-70B-Instruct 和 Qwen3-3.6-27B 上仅用数百条自报告场景构造的目标训练，模型在 MASK 基准受压时的不诚实行为持续减少，在 Among Us 多智能体游戏中更多坦白，AuditBench 对隐藏行为的发现率也提高。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
来源：arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。