跳到正文
原文
arXiv cs.AI / cs.LG 最新· John J. Vastola·· 14 小时前AI 评分44

arXiv 论文:梯度信号带噪且间歇可用时,学习可能不稳定

On the stability of learning

AI 导读

当梯度信息带噪且只能间歇获取时,学习可能变得不稳定:即使平均学习动态收敛到正确最优解,学习过程的方差仍可能渐近趋于无穷。作者在单层与多层线性网络中推导出学习稳定的显式条件,这些条件与随机梯度下降的稳定性条件互补但概念不同。由此,仅有精确的信用分配不足以支撑可靠学习,还需足够频繁、信息充分的反馈,这为生物可行学习模型增加了额外约束。

标题与摘要由 AI 辅助生成,事实与观点以原文为准。

来源:arXiv cs.AI / cs.LG 最新 · arxiv.org

本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。