arXiv cs.AI / cs.LG 最新· Mintong Kang·· 23 小时前AI 评分51
论文提出角色分离的自改进红队方法，目标智能体自批评加独立攻击者提议达 63.2% ASR
The Target Agent Is Its Own Best Critic but a Poor Proposer: Self-Improved Red Teaming
AI 导读
论文把自动红队中的批评与攻击提议拆成两个角色分别设计，其中由目标会话自批评、另建攻击者提提议的配置在 DTAP-BENCH 上取得 63.2% 整体攻击成功率，高于基线。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
来源：arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。