arXiv cs.AI / cs.LG 最新· Diego Miguel Lozano·· 20 小时前AI 评分52
LLM 安全中的极性盲区：否定、反义词替换与对抗包装的系统研究
Polarity Blindness in LLM Safety: A Systematic Study of Negation, Antonym Substitution, and Adversarial Framing
AI 导读
一篇 arXiv 论文提出并系统验证了 LLM 安全护栏的极性盲区，即模型在否定、反义词替换等改变极性的语言变换后识别不出有害意图。研究用 260 条提示词基准测试 10 个前沿模型和英语、西班牙语、捷克语 3 种语言，按 0-5 有害度量表评分，最脆弱模型的平均有害分达到 4.12。作者同时测试对抗性文本包装是否会放大这类失效，并发现该现象在语法结构差异较大的语言中同样存在。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
来源：arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。