论文用 8 量子比特模型在唐诗语料上验证量子自注意力语言模型。
资讯摘要
该论文提出基于全连接量子玻尔兹曼机(FC-QBM)的自注意力机制,并以其为核心构建语言模型 FC-QBM-LM。作者推导了该机制的计算原理,称其与经典自注意力数学等价,并给出训练与生成算法。团队构建 8 量子比特模型并在唐诗语料上训练,量子层仅用 44 个参数完成位置编码与自注意力计算;无噪声下收敛良好,八种噪声强度下保留超过 99% 的无噪声收敛表现。
要点速读
- 论文提出基于 FC-QBM 的自注意力机制,并称其与经典自注意力机制数学等价。
- 8 量子比特 FC-QBM-LM 在唐诗语料上训练,量子层以 44 个参数实现位置编码与自注意力计算。
- 作者报告在八种噪声强度下保留超过 99% 的无噪声收敛性能,并在五言绝句生成中初步展现联想发散与意象生成等能力。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。