arXiv cs.AI / cs.LG 最新· Nilotpal Kakati·· 14 小时前AI 评分52
研究用 LeJEPA 编码器做已知答案测试，发现自监督训练的无标签监控信号漏报能力下降
Improving Signals, Declining Encoder: A Known-Answer Test of Label-Free Monitoring in Self-Supervised Learning
AI 导读
论文用带已知生成因子的合成图像训练 LeJEPA 编码器，检验自监督训练的无标签监控信号能否发现编码器能力退化，结论是不能。10 个随机种子中有 9 个出现生成因子可读性骤降且持续不回升，下降方向在因子空间里几乎一致，而 loss 仍在下降，追踪的 11 个无标签信号多数继续改善，并把退化的训练评得比未退化更好。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
来源：arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。