低秩子空间捕捉LLM与人类神经活动的线性对齐

仅1-3%嵌入维度即可复现LLM对神经活动的线性预测。

资讯摘要

论文用岭降秩回归识别LLM表征中可线性预测神经响应的子空间。在三个自然语言聆听数据集（颅内电生理与fMRI）和六种模型条件下，仅用原始嵌入维度的1-3%即可恢复完整线性编码性能；这些低维子空间可跨被试泛化，跨数据集泛化较弱。作者指出，预测神经活动最有用的方向不同于嵌入主成分方向，并据此找出神经活动中超出LLM表征的可解释特征。

要点速读

1. 论文采用岭降秩回归定位LLM表征中的“脑预测子空间”，覆盖三个自然语言聆听数据集和六种模型条件。
2. 仅保留1-3%的嵌入维度即可达到完整线性编码性能，子空间可跨留出被试泛化，跨数据集泛化程度较低。
3. 主成分分析需更多维度才能恢复神经预测，说明脑预测方向与嵌入最大方差方向不同。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。