回到最新动态
交叉发布 / THE SIGNAL

用稀疏自编码器解析ESMFold折叠主干机制

Structure, Not Sequence: Tracking and Validating Folding Mechanisms in ESMFold's Trunk with Sparse Autoencoders

重要性 5.5 AI 辅助整理

SAE字典捕捉ESMFold主干的关系几何,并可预测折叠质量。

资讯摘要

论文提出用稀疏自编码器(SAE)解释ESMFold折叠主干的计算机制。作者先分析各模块与循环中的表征分布,定位主干内的空间计算;再发现单表征承载继承语义、对表征计算成对几何的分工;随后用推理语言模型大规模解读字典,借梯度归因追踪概念跨块组合,并将解读结果对应到折叠输出,检验其与已知生物化学的一致或偏离。作者报告这些稀疏字典捕捉到序列模型之外的关系几何,其概念激活可预测模型自身的折叠质量。

要点速读

  1. 论文用SAE在ESMFold主干上训练稀疏字典,分三步解读折叠计算。
  2. 作者报告单表征承载继承语义,对表征负责成对几何计算。
  3. 作者称概念激活可预测模型自身折叠质量,并可与已知生物化学对照验证。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开