VLA边缘推理延迟主要由动作生成策略决定，而非模型参数量。
资讯摘要
论文提出VLA-HWBench基准，在NVIDIA Jetson AGX Thor与AMD Ryzen AI Max+ PRO 395上测量18个开源VLA模型，并将推理拆为七个阶段。作者报告：动作生成策略比模型规模更关键，延迟在Jetson上相差82倍、AMD上相差157倍，参数量最多解释15%的延迟方差；4位权重加算子融合使π_(0.5)与GR00T N1.7快2.6–2.9倍，但仅限这两个模型和Jetson。
要点速读
- 基准覆盖18个开源VLA模型、两款边缘平台，采用七阶段推理拆解。
- 作者报告动作生成策略主导延迟，逐token解码难以跟上控制需求。
- 优化后Jetson上内存带宽只限制少token阶段，其余阶段受软件限制。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。