回到最新动态
论文更新 / THE SIGNAL

隐藏状态隐私不存在中间地带

Hidden-State Privacy Has an Empty Middle

重要性 5.5 AI 辅助整理

高斯类隐藏状态发布无法兼顾中等隐私与效用。

资讯摘要

论文针对单层隐藏状态发布测试了1536个高斯协方差,发现没有一个能同时达到中等效用与中等隐私,作者称之为“空中间”。论文证明互补的Fisher球下界:在O(1) Fisher效用下,任何满秩高斯发布都存在一个方向,其Mahalanobis信号随隐藏宽度线性增长。对角逆Fisher机制Σ^⋆_diag(K)是唯一在最坏攻击者下top-1≤0.001的对角机制,但处于隐私与效用的边缘。作者还报告,从头训练的分裂记忆Transformer在90M规模达到G_Mah∈[20,33],预训练模型最高仅9.3。

要点速读

  1. 测试1536个高斯发布协方差,无一同时实现中等效用与中等隐私。
  2. 证明Fisher球下界:O(1) Fisher效用下存在Mahalanobis信号随隐藏宽度线性增长的方向。
  3. 从头训练的分裂记忆Transformer在90M规模G_Mah∈[20,33],预训练模型最高9.3。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开