跳到正文
原文
Hacker News · Show HN· dex0shubham·· 4 小时前AI 评分63

Pith 发布削减 LLM 输出 token 的代理,测不达标时直接拒绝

Show HN: Pith – a proxy that cuts LLM output tokens, and refuses when it can't

AI 导读

Pith 是一个开源代理,会记录某条路由上的请求样本,再用更省的输出配置重放,由 judge 模型逐条对比基线,只有达到基线自一致率且节省能在一个月内回本才钉住配置,否则拒绝并给出原因。

标题与摘要由 AI 辅助生成,事实与观点以原文为准。

来源:Hacker News · Show HN · github.com

本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。