Waypoint：为 CPU 的 GEMM 建立解析模型

Waypoint 用解析模型自动选取 GEMM 最优分块，并据此构建 OPAM 库。

资讯摘要

论文提出 Waypoint，一种用于自动选择 GEMM 最优分块尺寸的解析模型。该模型通过刻画存储层次交互、指令级并行和多线程等架构效应，估算不同分块方案的性能，并搜索最优分块。作者还基于 Waypoint 构建了 CPU GEMM 库 OPAM，报告其性能与现有先进 GEMM 库相当，并在 CPU 上加速 LLM 推理，取得 1.36–1.98 倍加速。

要点速读

1. Waypoint 以解析方式估算给定硬件与矩阵形状下各分块方案的性能，并搜索最优分块尺寸。
2. 模型涵盖存储层次交互、指令级并行与多线程等架构效应。
3. 作者构建的 OPAM 库性能与先进 GEMM 库相当，论文报告 LLM 推理加速 1.36–1.98 倍。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。