机器学习作为一种数据驱动的关键技术,在人工智能领域发挥着重要作用。然而随着数据孤岛问题的加剧,传统机器学习模型已无法有效应对跨领域数据隔离、跨行业数据多样、跨应用模型复杂等问题。联邦学习作为一种多方协作的机器学习框架,能够使多个机构在不共享原始数据的情况下,仅通过本地模型参数的交换,进行数据使用和建模,大幅提高用户数据的安全性,有效解决数据孤岛问题。当前的联邦学习框架对联邦参与者身份缺乏有效认证,本地模型参数共享交互机制缺乏有效保护,联邦加入与离开机制缺乏安全管理。这一系列问题导致联邦学习环境下,联邦参与者（或未授权参与者）可以利用参数更新反向推测特定用户的原始敏感数据,从而破坏参与者数据的隐私性;更进一步,攻击者通过向训练数据中注入虚假数据,能够将后门秘密植入联邦全局模型,彻底破坏联邦学习模型的完整性与可用性。生成对抗网络（Generative Adversarial Networks,GAN）是一种有着较强数据生成能力的机器学习模型,在安全领域应用前景广泛。本文通过深入分析当前联邦学习中基于GAN的安全攻防机制,围绕上述挑战,有针对性的提出基于GAN的图像重建攻击和基于数据投毒后门攻击的防御机制:1)基于GAN的图像重建攻击的敌手模型可以分为半诚实模型和恶意模型。为防范半诚实模型下的图像重建攻击,本文引入基于自适应梯度下降的差分隐私加噪方法,设计了针对模型迭代训练过程中梯度步长和噪声强度的自适应调整方案,解决了传统差分隐私加噪方法中隐私预算消耗过高的问题。同时对单轮迭代的隐私预算设置上限,避免了由于噪声过小导致图像被攻击者重建的问题。更进一步,为有效防范恶意模型下的此类攻击,本文通过引入与联邦参与者私有数据分布相似的公共数据集进行分类器训练,依据梯度差指标和L-BFGS优化算法对图像进行重构。该方案在保护数据私有特征的同时,能够确保全局训练任务的准确度。2)本文提出一种针对数据投毒后门攻击的客户端安全防御框架。目前,常见的后门检测方法包括聚类异常检测和后门模型分析。前者会给服务器带来高额计算开销,后者是对已经中毒的模型进行净化,不适用于联邦训练场景。本框架首先引入类激活映射技术,依据后门触发器对分类结果的偏差来定位可疑区域;其次,使用基于GAN的图像修复技术将可疑数据转换为干净数据;最后,为进一步提高图像修复效果,本文利用梯度惩罚对传统GAN图像修复算法的鉴别器损失函数进行了优化。理论分析和实验结果表明,本文所提的两种方案能够有效防御基于GAN的图像重建攻击和基于数据投毒的后门攻击,实现联邦学习场景下训练数据和模型的安全保护。