arXiv cs.AI / cs.LG 最新· Xujun Che·· 3 天前AI 评分57
谁会被解掩码?扩散语言模型采样器引入的偏见
Who Gets Unmasked? Sampler-Induced Bias in Diffusion Language Models
AI 导读
论文指出扩散语言模型的采样器不只决定写入哪个 token,还决定何时提交,这会改变生成文本中出现的人物。在 LLaDA 和 Dream 上,优先提交最可能 token 的 peeking 采样会放大职业性别刻板印象、让观点分布坍缩,基于置信度的排序把性别均衡的职业推向男性,并行解码更快时更明显。
标题与摘要由 AI 辅助生成,事实与观点以原文为准。
来源:arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。