arXiv cs.AI / cs.LG 最新· Chenxu Niu·· 17 小时前AI 评分56
Token-Energy Law 提出:用活跃字节与实测解码时间解释 LLM 每 token 能耗
The Token-Energy Law of LLM Decode: Active Bytes and Realized Time Account for Joules per Token
AI 导读
Chenxu Niu 在 arXiv 提出 Token-Energy Law,用活跃字节和实测解码时间两个维度估算 LLM 每输出 token 的 GPU 板级能耗。
标题与摘要由 AI 辅助生成,事实与观点以原文为准。
来源:arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。