Born测量式Transformer：词级证据可精确计算

Born Transformer以测量式注意力实现可精确计算的词级证据，准确率与同规模softmax模型持平。

资讯摘要

论文提出一种Born Transformer：注意力按行归一化的|⟨q|k⟩|⁴、以测量乘积替代前馈非线性，并采用Born读出。作者报告在e-SNLI自然语言推理上，约98k非嵌入参数下测试准确率76.98±0.17%，与同规模softmax Transformer的76.62±0.36%相当；删除证据排名第一的词可改变45%测试对的答案。相同权重可精确编译为光电器件与量子线路，23量子比特上需852个CNOT。

要点速读

1. 每个类别的概率是词振幅的多项式，其积分梯度证据可用有限求积精确计算，词贡献之和与类别概率的误差在10⁻¹¹以内
2. e-SNLI上约98k非嵌入参数达76.98±0.17%测试准确率，与同规模softmax模型持平；删除证据首位词改变45%答案，高于softmax模型的32%
3. 相同权重可精确编译为光电器件和量子线路，相干注意力层对应一个852 CNOT、23量子比特的电路；在ibm_kingston上仅用Hadamard测试读取注意力重叠，两个短测试对上复现了模型答案及删除后的变化，但证据本身尚未在硬件上测得

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。