跳到正文
原文
Hacker News · Show HN· Termich·· 21 小时前AI 评分63

Show HN:在消费级显卡上实测 llama.cpp 的 DSpark 投机解码

Show HN: Benchmarking DSpark speculative decoding on a consumer GPU

AI 导读

新开源的 dspark-local-bench 提供一套基准脚本,可在消费级显卡上复现 llama.cpp 各类投机解码的速度,并邀请其他人提交自己显卡上的结果。

标题与摘要由 AI 辅助生成,事实与观点以原文为准。

来源:Hacker News · Show HN · github.com

本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。