arXiv cs.AI / cs.LG 最新· Genshin Kakimoto·· 20 小时前AI 评分49
面向日文金融文档的多模态基础模型分阶段持续适配研究
Staged Continual Adaptation of Multimodal Foundation Models for Japanese Financial Documents
AI 导读
一项研究追踪 8.4B 参数多模态基础模型在日文金融文档上的三阶段训练,发现视觉-语言对齐、推理蒸馏与领域微调之间并非简单叠加。仅数学蒸馏就会覆盖此前习得的金融知识,而领域阶段更多是修复而非新增能力。跳过某一阶段的消融在领域知识上最佳但放弃数值推理收益,最佳 checkpoint 因任务而异。
标题与摘要由 AI 辅助生成,事实与观点以原文为准。
来源:arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。