论文给出预测VLM伪标签何时有益或有害的交叉点规则。
资讯摘要
论文研究医学影像中专家标签与视觉语言模型零样本伪标签结合时的交叉点:专家标签极少时伪标签有益,但当仅用专家标签训练的模型达到弱标注器精度后,加入伪标签反而降低测试性能。作者在PatchCamelyon、ISIC 2019和NIH ChestX-ray14上使用BiomedCLIP与PubMedCLIP伪标签、六种学生架构测量该交叉点,并提出基于偏差-方差规则的预测方法。
要点速读
- 弱标签在ISIC 2019约20–50个专家标签后不再有帮助,PatchCamelyon约100个,NIH ChestX-ray14为250–500个;超过后加入1万条伪标签使测试macro-AUC最多下降0.14(BiomedCLIP)或0.23(PubMedCLIP)等。
- 六种学生架构的弱标签上限落在0.841–0.865 AUC区间内,作者认为限制性能的是VLM标注器而非学生模型规模。
- 作者报告用弱标注器验证精度与少量仅专家标签运行估计的偏差-方差规则,在全部30个统计显著设置(总体39/42)中预测伪标签是否有益。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。