回到最新动态
论文更新 / THE SIGNAL

多层SSM的表达能力与局限

On the Expressive Power and Limitations of Multi-Layer SSMs

重要性 5.5 AI 辅助整理

论文给出多层SSM求解函数复合的深度下界与构造。

资讯摘要

论文研究深度、有限精度、状态维度与思维链(CoT)如何影响多层状态空间模型(SSM)的表达能力。针对显式表格K函数复合问题,作者证明求解(L+3)函数复合的L层SSM须满足d²p=Ω(N/L³),而(K+1)层广义SSM在d=1、p=Θ(log N)时可精确求解,给出该问题族的最坏情况深度层级。论文还区分输入后推理与输入交错推理,指出前者无法绕开基于通信的下界,后者在持久内存粒度上与确定性单遍流式算法可双向模拟。

要点速读

  1. 论文证明L层SSM求解(L+3)函数复合需满足d²p=Ω(N/L³),其中d为状态维度、p为每标量精度。
  2. (K+1)层广义SSM在d=1、p=Θ(log N)时可精确求解K函数复合,形成最坏情况深度层级。
  3. 论文区分输入后推理与输入交错推理:前者不绕开通信下界,后者可与确定性单遍流式算法双向模拟;宽度与精度在基础仿射状态模型中不可互换,允许输入交错推理后经流式内存刻画可互换。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开