Kernel Token Contradiction：面向LLM声明级不确定性的轻量方法

KTC 用核方法与熵实现声明级不确定性量化，CPU 上大幅加速。

资讯摘要

论文提出 Kernel Token Contradiction（KTC），用于在白盒条件下对 LLM 输出做声明级不确定性量化。方法将生成涉及的候选 token 表示为半正定核，融合模型条件分布与 token 矛盾分数，并用 Von Neumann 熵度量不确定性；token 矛盾分数基于 Wikipedia 语料频率统计估计。作者报告该方法仅用 CPU，相比基于 cross-encoder 的 GPU 方法加速超过 8.2 倍，相比性能相当的 CPU 方法加速超过 65 倍。

要点速读

1. KTC 将候选 token 表示为半正定核，结合 LLM 条件分布与 token 矛盾分数，用 Von Neumann 熵量化不确定性。
2. token 矛盾分数由 Wikipedia 语料的频率统计估计。
3. 作者报告在四种欧洲语言、16 个模型和两个基准上评估，平均性能与现有方法相当，并在高精度区间更优。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。