回到最新动态
交叉发布 / THE SIGNAL

顺序智能体风险认证的证据复杂度

Clean Sheets and Checkpoints: Evidence Complexity for Certifying Sequential Agent Risk

重要性 4.5 AI 辅助整理

论文给出顺序智能体风险认证所需的零成功审计响应数渐近界。

资讯摘要

论文研究顺序智能体危险能力评估中的认证问题:任务被建模为 k 个里程碑组成的链条并划分为检查点分段,作者分析需要多少次零成功审计响应,才能在 α 水平上认证完成概率不超过 ε。论文给出针对任意指定预算的证书,并推导出稀有风险阶段下最小期望零响应数的渐近表达式,指出渐近最优评估器须在活跃里程碑间均分响应次数。

要点速读

  1. 论文将顺序智能体评估建模为 k 个里程碑的链条,并划分为检查点分段,研究零成功审计响应数量与认证完成概率上界 ε 的关系。
  2. 作者报告:对审计前选定的分段,通过计数可能的完成窗口可得到任意指定预算下的证书,该界也覆盖沿链条转移的自适应部署过程。
  3. 在稀有风险阶段内部,最小期望零响应数渐近于 log(1/α)(B^a/(a!ε))^(1/K_A),且渐近最优评估器须在活跃里程碑间均分响应次数。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开