论文称合成先验设计是表格基础模型质量的一阶决定因素。
资讯摘要
论文关注表格基础模型的质量来源:与语言、视觉模型不同,这类模型的归纳偏置几乎全部来自合成预训练分布,但该分布的设计仍缺乏理解。作者指出标准合成先验过于规整,缺少部署中常见的异常与失效模式,并提出 O'Prior 组合式真实感先验,包含分层 SCM 元生成器、模块化真实感引擎、显式压力模块与课程化防泄漏生成协议。作者报告在固定架构、优化器与算力预算、仅改变合成任务分布的条件下,O'Prior 在真实表格基准上提升下游准确率与鲁棒性,增益集中在分布不规则的场景。
要点速读
- 论文提出 O'Prior,由分层 SCM 元生成器、模块化真实感引擎、注入混淆与支持-查询错配的压力模块、课程化防泄漏生成协议四部分组成。
- 实验固定架构、优化器与算力预算,仅改变合成任务分布,作者报告下游准确率与鲁棒性一致提升,增益集中于分布不规则场景。
- 消融显示机制多样性、真实感组合与偏移感知压力各自独立贡献,效果不可互换。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。