北海道大学医院上线本地部署的LLM智能体平台LLENS。
资讯摘要
论文介绍北海道大学医院在封闭网络内部署的临床支持AI智能体平台LLENS：单机8块NVIDIA H200 GPU，采用开源权重模型Kimi K2.6（约1万亿参数），Web应用基于Open WebUI重建。作者报告该模型在2026年日本医师资格考试中得480/500分；在180道院内文档题上，无文档准确率10.7%，固定检索81.3%，交互式访问97.2%。平台自2026年9月14日起在医院网络运行。
要点速读
- LLENS运行于医院封闭网络，单主机配8块NVIDIA H200 GPU，使用Kimi K2.6开源权重模型，Web应用由Open WebUI重建。
- 作者报告Kimi K2.6在2026年日本医师资格考试得480/500分；单用户生成119 tokens/s，16并发合计908 tokens/s。
- 180道院内文档题上，无文档准确率10.7%，固定检索81.3%，交互式访问97.2%，差值主要来自过滤与计数类问题。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。