多智能体内核优化循环学习新AI加速器

LLM智能体循环在陌生NPU上优化内核，取得9.293倍几何平均加速。

资讯摘要

论文提出一个面向陌生加速器的LLM智能体循环案例研究，目标为FuriosaAI RNGD NPU及其文档稀疏的Rust DSL。循环自行编写并核验DSL文档摘要、用微基准测量芯片、记录编译器合法性规则，并在工具链变化时复查。基于角色的Design Tree搜索在12天内优化三个Gemma-4-12B解码内核，最终内核相对官方基线取得9.293倍几何平均加速，每个内核的周期数在仅搬运权重所需周期的1.25倍以内。

要点速读

1. 循环自建目标知识：DSL文档摘要、微基准测量与编译器合法性规则，并在工具链变化时复查。
2. 按内核的Design Tree进行基于角色的搜索，先以低成本检查筛选设计，再上设备验证。
3. 三个Gemma-4-12B解码内核在12天内优化完成，相对官方基线几何平均加速9.293倍。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。