跳到正文
原文
arXiv cs.AI / cs.LG 最新· Chang Su·· 14 小时前AI 评分45

预训练期间什么在提升?用 Point-in-Time 模型追踪知识习得

What Improves During Pretraining? Tracking Knowledge Acquisition with Point-in-Time Models

AI 导读

研究者提出时序变异性分数 TVS(temporal variability score),用按不同年份网页快照训练的 point-in-time 模型衡量知识在多年网页文本中的表示一致性。

标题与摘要由 AI 辅助生成,事实与观点以原文为准。

来源:arXiv cs.AI / cs.LG 最新 · arxiv.org

本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。