Hacker News · Show HN· dex0shubham·· 4 小时前AI 评分63
Pith 发布削减 LLM 输出 token 的代理,测不达标时直接拒绝
Show HN: Pith – a proxy that cuts LLM output tokens, and refuses when it can't
AI 导读
Pith 是一个开源代理,会记录某条路由上的请求样本,再用更省的输出配置重放,由 judge 模型逐条对比基线,只有达到基线自一致率且节省能在一个月内回本才钉住配置,否则拒绝并给出原因。
标题与摘要由 AI 辅助生成,事实与观点以原文为准。
来源:Hacker News · Show HN · github.com
本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。