近年来,人工智能技术蓬勃发展,机器学习、深度学习被广泛用于计算机视觉、自然语言处理和决策推荐等领域,不仅方便了人们的生活也推动了产业的升级和社会的进步。数据在这期间扮演了重要的角色,有代表性的数据越多,机器学习模型越能学到更多知识。然而,数据隐私问题并没有得到足够重视,隐私泄露事件频发,随着智能场景的丰富和攻击手段的进步,隐私风险更加不容忽视。传统的数据脱敏方法不仅需要精心设计规则而且在数据可用性和隐私性间达不到很好的平衡,已经不能满足机器学习场景下的数据隐私保护需求。隐私保护机器学习的一些新技术大多基于同态加密和安全多方计算机制,计算和通信开销较大,对于结构复杂的深度学习模型,效率较低,很难在实际应用中落地。针对应用于机器学习、深度学习的文本序列数据的隐私保护需求,本文基于生成对抗网络(GAN)和差分隐私机制提出文本序列数据集脱敏的新方法。具体来说,我们的工作和贡献如下:(1)GAN能够生成与原始数据分布接近的数据,我们利用这一特性设计基于GAN的带标签文本序列生成模型。生成器为广泛用于文本生成的LSTM网络,鉴别器选用在文本分类时效率较高的CNN网络,生成器和鉴别器互相博弈,交替优化,生成新的数据集;为了数据能更好的用于监督学习,我们设计了带标签数据的生成方法,可以根据训练数据的类别直接有效的生成带标签数据。通过模型对数据的深度学习与刻画,简化了人工操作,克服了传统脱敏方法需要人工设计定义和查找隐私属性的规则并且这种规则很难做到多任务通用的缺陷;最终生成的数据可用性与原始数据接近;并且由于生成数据是对原始数据的重写或混淆,生成数据与原始数据间无一一对应关系,隐私性得到提高。(2)进一步的,我们对模型引入差分隐私,通过裁剪梯度、添加噪声来差分隐私化鉴别器的训练,限制了每个样本对最终模型的影响,对模型引入了随机性;在对现有对机器学习模型的隐私攻击充分调研的基础上,我们设计并实现了对我们模型的成员推断攻击,以此作为模型的隐私性测试方法。测试结果显示,引入差分隐私后模型的隐私性更高,降低了成员推断攻击的成功率,即攻击者很难从对脱敏模型的成员推断攻击中完成对原始数据的重构;另一方面,生成数据的可用性更高,在一些下游模型下,尤其是神经网络模型如RNN、CNN,甚至具有好于原始数据的可用性。