模型内部已结构化官能团知识,输出失败不等于缺乏知识。
资讯摘要
论文读取五个开源模型在覆盖92个分子、20种官能团的提示上的内部表征,发现即使未经化学训练,模型也按化学族组织官能团,并以一致方向编码化学差异;这种结构在中间层突然出现,表征从追踪提示措辞转向追踪官能团。基础模型仅58.5%的提示能说出正确官能团,为五个模型中最低,但其错误多为未能作答而非答错。化学微调会重组该表征,使官能团而非措辞主导。
要点速读
- 论文分析五个开源模型在92个分子、20种官能团提示上的内部表征,发现模型按化学族组织官能团。
- 官能团结构在中间层突然出现,表征由追踪提示措辞转向追踪官能团;基础模型正确命名率58.5%,错误多为未作答。
- 作者报告化学微调会重组表征,使官能团而非提示措辞占主导,并指出仅凭输出评估会低估模型编码的化学信息。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。