Q64 以准确率换延迟，未超过原生 27B 基线。
资讯摘要
论文提出 Q64 候选打分系统，冻结 64 层 Qwen3.8-27B 文本主干，复用其混合前缀状态与中间文档表示，联合训练残差适配器、四层解码器与候选条件读出。作者报告在 5,112 条固定评测上，四基准宏平均准确率由 66.46% 升至 74.32%，仍低于原生 27B 的 75.68% 与 AnyJev Qwen3-32B L0 的 76.68%。
要点速读
- 最终适配阶段更新 8866 万参数，使用 8,192 个选定训练视图。
- 评测合并 ARC-Challenge、ANLI-R3 及 MMLU-Pro、CMMLU 分层子集。
- 4,096 文档 token、50 问题的合成负载中，冷请求中位延迟 2.237 秒，原生基线 5.383 秒，AnyJev 批处理配置 56.872 秒；单问题短请求无此优势。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。