高斯类隐藏状态发布无法兼顾中等隐私与效用。
资讯摘要
论文针对单层隐藏状态发布测试了1536个高斯协方差,发现没有一个能同时达到中等效用与中等隐私,作者称之为“空中间”。论文证明互补的Fisher球下界:在O(1) Fisher效用下,任何满秩高斯发布都存在一个方向,其Mahalanobis信号随隐藏宽度线性增长。对角逆Fisher机制Σ^⋆_diag(K)是唯一在最坏攻击者下top-1≤0.001的对角机制,但处于隐私与效用的边缘。作者还报告,从头训练的分裂记忆Transformer在90M规模达到G_Mah∈[20,33],预训练模型最高仅9.3。
要点速读
- 测试1536个高斯发布协方差,无一同时实现中等效用与中等隐私。
- 证明Fisher球下界:O(1) Fisher效用下存在Mahalanobis信号随隐藏宽度线性增长的方向。
- 从头训练的分裂记忆Transformer在90M规模G_Mah∈[20,33],预训练模型最高9.3。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。