HiFloat4 量化校准方法研究

论文提出三种 HiF4 校准方法，称精度接近 BF16

资讯摘要

论文针对 HiFloat4（HiF4）这一采用块浮点三级缩放结构的 4 位格式，指出现有校准方法主要面向 INT4 等整数格式，缺少对 HiF4 的支持。作者研究了 HiGPTQ、HiAutoRound 和 HiFlatQuant 三种校准方法，实验称三者均较直接 HiF4 转换提升推理精度，将 HiF4 与 BF16 的差距缩小至 1% 以内，并在多种模型和下游任务上优于 NVFP4。

要点速读

1. 论文研究 HiGPTQ、HiAutoRound、HiFlatQuant 三种面向 HiF4 的校准方法
2. 作者报告三种方法均优于直接 HiF4 转换，与 BF16 差距小于 1%
3. 论文称在多种模型和下游任务上超过 NVFP4 格式

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。