JEPA用于纵向EHR表示学习不及MLM

2026年10月21日，arXiv cs.AI/cs.LG 发布一项预印本研究，检验JEPA（联合嵌入预测架构）是否适用于纵向电子健康记录（EHR）表示学习。研究在MIMIC-IV数据上考察三种JEPA形式处理纵向EHR序列，结果显示这些模型训练过程稳定、未出现表示坍缩，但各项下游任务表现均低于标准掩码语言模型（MLM）基线。分析进一步指出，使预测误差增大的因素是目标尺寸，而非目标异质性；即便缩小目标尺寸，也未能恢复下游性能。作者据此认为，仅靠稳定的潜空间预测不足以获得有竞争力的EHR表示，如何定义临床上有意义的潜目标仍是待解挑战。目前该结论来自单一预印本，尚无后续报道跟进或复现验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。