评审工作记录

第一次认真写一篇论文评审,做一次小记录

Summary Of The Paper:

这篇文章提出了一个 Lipschitz 约束的 VAE 变体用于实现差分隐私保证的数据合成方案。现有的主流数据合成方案是基于 DP-SGD 以及 PATE 框架结合 GAN、VAE、Diffusion Model等生成模型。本文章主要贡献点是针对常规 DP 添加噪声影响模型精度以及隐私预算有限问题,提出利用Lipschitz 约束实现独立于训练样本数量的差分隐私保证方法。

Main Review:

  • Strength of the paper:
  1. 证明过程清晰
  2. 针对 VAE的无噪声 DP 有一定创新性,Lipschitz 结合 DP工作不是一个很新的概念,应用到 VAE 中目前我个人没见过
  • Weakness of the paper:
  1. 实验完备性不足:
    a) 数据质量没有实验数据:对于数据合成方案上,文章中强调不仅隐私保护效果更好,且数据质量更佳。在数据质量上并没有实验支撑,例如下游任务的精度,原数据集相似度等指标。
    b) 对比方案不足:没有对比例如 DP-GAN、PATE-GAN、G-PATE、DataLens以及DP-Diffusion model等一系列其他数据合成主流方案
    c) 数据集支撑不足:仅仅只对 mnist 数据集进行了实验,应该多扩展一些常见数据集
  2. 文中描述方案隐私保护效果对比 VAE-DPSGD,然而由实验图中可知,对于 MIA(成员推理攻击) 的保护效果并没有 VAE-DPSGD 好,且没有数据质量的实验数据前提下,方案优势并不明显。
  3. 所选 Lipschitz 常数与隐私保证之间的联系需要量化
  4. 文中写作错误