论文给出多层SSM求解函数复合的深度下界与构造。
资讯摘要
论文研究深度、有限精度、状态维度与思维链(CoT)如何影响多层状态空间模型(SSM)的表达能力。针对显式表格K函数复合问题,作者证明求解(L+3)函数复合的L层SSM须满足d²p=Ω(N/L³),而(K+1)层广义SSM在d=1、p=Θ(log N)时可精确求解,给出该问题族的最坏情况深度层级。论文还区分输入后推理与输入交错推理,指出前者无法绕开基于通信的下界,后者在持久内存粒度上与确定性单遍流式算法可双向模拟。
要点速读
- 论文证明L层SSM求解(L+3)函数复合需满足d²p=Ω(N/L³),其中d为状态维度、p为每标量精度。
- (K+1)层广义SSM在d=1、p=Θ(log N)时可精确求解K函数复合,形成最坏情况深度层级。
- 论文区分输入后推理与输入交错推理:前者不绕开通信下界,后者可与确定性单遍流式算法双向模拟;宽度与精度在基础仿射状态模型中不可互换,允许输入交错推理后经流式内存刻画可互换。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。