相关文章：隐私计算 9
原标题：《Group and Attack: Auditing Differential Privacy》
发表平台：CCS ’23, November 26–30, 2023, Copenhagen, Denmark
摘要
本文介绍了一种新的差分隐私审计方法“Group and Attack”，该方法能够有效地发现差分隐私算法中的违规行为。通过将许多产生相同算法的(ε, δ)参数对归类在一起，这种方法在搜索违规行为时更加高效和精确。实验结果表明，“Group and Attack”能够在多个最先进的差分隐私算法中发现之前未知的漏洞，并且在84%的情况下优于现有的审计工具。此外，该方法还能帮助识别漏洞的根本原因，这是其他差分隐私测试工具目前无法做到的。
解决的主要问题
本文主要研究领域为差分隐私算法的审计。随着差分隐私技术在私人机器学习应用中的广泛应用，其实现中常常存在细微的漏洞，这些漏洞可能导致隐私泄露。然而，现有的差分隐私审计工具通常直接扩展自ε-差分隐私工具，通过固定ε或δ来搜索违规行为，这限制了它们高效发现(ε, δ)差分隐私违规行为的能力。本文旨在开发一种新的审计方法，以克服这一限制，提高审计效率和准确性。
主要方法和技术
本文提出了一种新的差分隐私审计方法“Group and Attack”，其关键在于将产生相同算法的许多(ε, δ)参数对归类在一起。这种方法通过减少重复搜索，提高了发现违规行为的效率。具体而言，该方法首先对(ε, δ)参数对进行分组，然后对每个组进行搜索，找出可能的违规行为。为了验证该方法的有效性，研究团队将其集成到了现有的差分隐私审计工具DP-Opt中，形成了新的工具Delta-Siege。通过对比实验，证明了Delta-Siege在发现违规行为方面不仅更快，而且更准确。
总结
本文的重要贡献在于开发了一种新的差分隐私审计方法“Group and Attack”，并通过其实现工具Delta-Siege，显著提高了审计效率和准确性。实验结果表明，Delta-Siege能够在多个最先进的差分隐私算法中发现之前未知的漏洞，并且在大多数情况下优于现有的审计工具。此外，Delta-Siege还能够帮助用户找到漏洞的具体根源，这是其他工具目前无法提供的功能。这些成果不仅有助于提升差分隐私算法的安全性，也为差分隐私技术的实际应用提供了有力支持。