arXiv cs.AI / cs.LG 最新· Haocheng Mei·· 21 小时前AI 评分58
API-TAIL 用温度对齐似然尾部检测 LLM API 中的模型替换
API-TAIL: Detecting Model Substitution in LLM APIs through Temperature-Aligned Likelihood Tails
AI 导读
arXiv 论文 API-TAIL 提出一套审计商用 LLM API 的方法，用于发现服务商把部分用户请求悄悄路由到更便宜的替代模型。该方法先把整批标准化 surprisal 分数按单一有效温度对齐，吸收温度缩放、采样截断、重复与存在惩罚、默认系统提示等合法配置造成的整体偏移，再对剩余尾部响应计数并按跨配置校准的阈值告警。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
来源：arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。