企业 text-to-SQL 中智能体需求发现尚可,交付通过率仅 25%。
资讯摘要
论文在企业 text-to-SQL 场景中考察 LLM 智能体能否充当前向部署工程师(FDE),完成需求发现与交付。模拟客户从模糊请求出发,智能体需先发现验收标准、数据权限与硬件约束,再规划并执行后训练方案。15 个模型中,最强模型发现逾 80% 的隐藏需求,开放权重模型为 40–50%;八种编码智能体配置中仅 25% 的运行通过全部验收标准。作者归纳出需求发现不完整、执行不可靠、算力预算利用不足、基准准确率不等于生产就绪四类瓶颈。
要点速读
- 15 个模型中,最强模型发现超过 80% 的隐藏需求,开放权重模型发现 40–50%。
- 交付阶段八种编码智能体配置中,仅 25% 的运行通过全部验收标准。
- 作者指出四类瓶颈:40% 隐藏需求缺失或表述错误、执行不可靠、算力预算未充分利用、基准准确率不保证生产就绪。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。