HTAM 用分层转移记忆组织优化经验，指导 LLM 生成 CUDA 算子。
资讯摘要
论文提出 HTAM（分层转移记忆），一种由粗到细的框架，用于基于 LLM 的 GPU 算子优化。它构建两级分层转移图（HTG），组织粗粒度全局方向、细粒度局部策略及优化步骤间的转移经验；每步先选全局方向，再检索对应局部策略记忆，指导具体 CUDA 代码生成。作者报告在 KernelBench 上，HTAM 在正确性、快速求解率和加速比上优于基于 LLM 的基线，后端与 Robust-KBench 研究显示结构化记忆带来可迁移收益。
要点速读
- 论文指出基于 LLM 的算子优化存在粒度错配：粗提示易复用但难执行，细记忆可执行却扩大搜索空间。
- HTAM 用两级分层转移图组织全局方向、局部策略与步骤间转移经验，逐步检索指导 CUDA 代码生成。
- 作者报告 KernelBench 上正确性、快速求解率和加速比优于 LLM 基线，并称结构化记忆收益可迁移。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。