论文用单次前向传播的类型化决策替代生成式 LLM 评审,成本大幅降低。
资讯摘要
论文报告“类型化决策”模式的两种用法:一是自研 System 1 评审器,用冻结骨干加 rank-16 LoRA 适配器和指针头,在一次前向传播中回答三个类型化问题,用于筛选约 14.8 万条智能体编程会话记录,作者称其成本约为前沿 LLM 评审器的 1%。二是把公开 Eikos 方案用于 1B、2B、35B 三个骨干,在 JevBench 111 道公开难题上,单种子 35B 得 79.3%,作者称与商业参考无显著差异。
要点速读
- 自研评审器替代前沿 LLM 评审器:后者每次运行成本约 1000 美元,其存储标签仅在 26.9% 的会话上与新的双评审共识一致。
- 自托管方案用冻结骨干、rank-16 LoRA 适配器和指针头,单 GPU 约三分钟评审 1000 条会话,参考费率下约 0.06 美元。
- JevBench 111 道公开难题上,单种子 35B 得 79.3%,商业参考 73.0%(未校正 p=0.12);2B 领先排行榜上全部四个 kev 检查点。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。