论文提出API-TAIL，用温度对齐的似然尾部审计检测LLM API部分模型替换。
资讯摘要
论文提出API-TAIL，用于审计商业LLM API是否将部分用户请求悄悄路由到更便宜的替代模型。作者指出，诚实服务商也会通过温度缩放、采样截断、重复与存在惩罚、默认系统提示等未公开的解码与部署选择改变输出分布，因此审计需面对合法配置构成的复合零假设。其思路是：合法变化主要整体移动响应典型性，而部分替换会注入在声称模型下仍异常的个别响应；方法先对齐单一有效温度吸收批次级偏移，再按跨合法配置校准的阈值标记尾部响应过多的端点。作者报告在真实商业API上能控制误报，并以较小查询预算检出低比例部分替换，优于基于排名和MMD的审计。
要点速读
- 论文针对商业LLM API仅返回文本、服务商可能将部分请求转给更便宜替代模型却按原模型计费的问题，提出API-TAIL审计方法。
- 方法先对齐单一有效温度以吸收批次级分布偏移，再以跨合法配置校准的阈值判断剩余尾部响应数量是否异常。
- 作者报告在真实商业API上可控制误报并检出低比例部分替换，且查询预算较小，表现优于排名和MMD类审计。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。