arXiv cs.AI / cs.LG 最新· Shang Xu·· 18 小时前AI 评分44
几何知识空间、Attention pairing 与架构:用几何方法推导注意力机制并探索新架构
Geometric knowledge spaces, Attention pairing and Architectures
AI 导读
一篇 arXiv 论文提出用几何方法推导注意力机制:形式化知识世界与 attention pairing 后,该框架可自然导出标准注意力、因果注意力、线性注意力、张量注意力以及循环神经网络。论文还给出若干可能启发新神经网络架构的几何空间。全文 14 页,编号 arXiv:2610.29526,归类为 cs.LG。
标题与摘要由 AI 辅助生成,事实与观点以原文为准。
来源:arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。