论文提出张量原生可验证推理方案 TensorCommitments。
资讯摘要
论文提出 TensorCommitments(TCs),一种张量原生的推理证明方案,用于验证远程 GPU 上的 LLM 推理是否被正确执行。TC 将推理绑定到一种不可逆的承诺标签,并组织为多元 Terkle Trees,篡改会破坏该标签。作者报告,在 LLaMA2 上,TC 仅增加 0.97% 的证明方时间和 0.12% 的验证方时间,对定制攻击的鲁棒性比此前需要验证方 GPU 的最佳工作提升最多 48%。
要点速读
- 论文提出 TensorCommitments(TCs),将 LLM 推理绑定到不可逆的承诺标签,并组织为多元 Terkle Trees。
- 作者报告在 LLaMA2 上,TC 仅增加 0.97% 证明方时间和 0.12% 验证方时间。
- 作者报告对定制攻击的鲁棒性较此前需验证方 GPU 的最佳工作提升最多 48%。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。