回到最新动态
研究论文 / THE SIGNAL

论文审计文本去标识化后的隐私评估接口

Residual Attribute Leakage Is an Interface: Auditing Privacy Evaluation After Text De-identification

重要性 5.0 AI 辅助整理

隐私评估结论高度依赖评估接口选择,同一编辑器排名可大幅变化。

资讯摘要

论文针对去标识化文本的隐私评估提出一种经先验归一化的截断泄漏分数,用于衡量对抗语言模型对真实受保护属性置信度增益,并在三个语料库的固定版本上变化评估接口进行审计。作者报告,在压力测试中,一个在相同片段写入异性形式的编辑器会误导对抗模型对多数人的判断,却在该分数、攻击准确率和被当作隐私的恰当评分规则下排名第一;而采用重标记不变的 AUC 解读时它仅列八者第六,规则感知的对抗模型还能从同一文本恢复属性。

要点速读

  1. 论文提出先验归一化截断泄漏分数,审计去标识化文本隐私评估的结论。
  2. 压力测试中,写入异性形式的编辑器在多种评分下排名第一,但重标记不变 AUC 下仅列第六。
  3. 作者构建可追踪编辑器 SACC 作为工具,消融两项编辑原则并指出其优势不成立之处。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开