相关文章：隐私计算 9
原标题《Privacy and Fairness in Federated Learning: on the Perspective of Trade-off》
发表平台：ACM Computing Surveys
摘要
本文综述了联邦学习（FL）中的隐私与公平性问题，并探讨了两者之间的相互作用。尽管在保护隐私或确保结果公平方面已经取得了显著进展，但这两者之间的平衡仍然是一个相对较少研究的领域。文章不仅回顾了现有的解决方案，还分析了联邦学习中独特的挑战，并提出了未来的研究方向，以期实现既保护隐私又保证公平性的联邦学习系统。
解决的主要问题
本文主要关注联邦学习领域的隐私与公平性问题。随着大数据时代的到来，如何在利用大量数据训练机器学习模型的同时保护个人隐私成为了一个重要的研究课题。此外，确保算法输出的公平性也是社会广泛关注的问题之一。本文探讨了在追求隐私保护和结果公平的过程中可能产生的冲突和权衡，指出单一考虑其中一个方面可能会对另一个方面造成不利影响，从而提出了需要同时考虑这两个方面的观点。
主要方法和技术
本文采用文献综述的方式，系统地调查了隐私与公平性在联邦学习中的交互作用。针对隐私保护，文中讨论了加密技术和差分隐私（DP）两种主要方法。对于公平性保障，文章介绍了通过数据增强、客户端选择、重加权等技术来减少算法偏见的方法。此外，文章还探讨了正则化、元学习、多任务学习等技术如何用于缓解联邦学习中的权重发散问题，提高模型的适应性和泛化能力。为了更好地理解隐私与公平性之间的权衡，文章总结了不同的方法，如使用指数机制最小化歧视得分、通过功能公平机制实现决策边界的功能公平等。
总结
本文的重要贡献在于提供了关于联邦学习中隐私与公平性问题的全面概述，强调了两者之间存在复杂的相互作用关系。文章不仅总结了现有技术解决这些问题的方法，还指出了在设计更加安全、公平的联邦学习系统时面临的挑战和未来的研究方向。这些贡献对于促进联邦学习技术的发展，尤其是在处理大规模分布式数据集时保持用户隐私和算法公平性方面具有重要意义。