跳到正文
原文
arXiv cs.AI / cs.LG 最新· Chenxu Niu·· 17 小时前AI 评分56

Token-Energy Law 提出:用活跃字节与实测解码时间解释 LLM 每 token 能耗

The Token-Energy Law of LLM Decode: Active Bytes and Realized Time Account for Joules per Token

AI 导读

Chenxu Niu 在 arXiv 提出 Token-Energy Law,用活跃字节和实测解码时间两个维度估算 LLM 每输出 token 的 GPU 板级能耗。

标题与摘要由 AI 辅助生成,事实与观点以原文为准。

来源:arXiv cs.AI / cs.LG 最新 · arxiv.org

本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。