成员推理攻击防御方法的研究

被引量 : 0次 | 上传用户:a894918572317531
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
机器学习模型训练数据的隐私面临成员推理攻击的威胁,攻击者通过正常的访问模型,便能推测访问数据是否来源于模型的训练数据。目前存在着许多针对成员推理攻击的防御研究,它们主要采用两种方式来实现:一种是通过降低模型的过拟合程度,另一种是对成员信息进行隐藏。然而,现有的成员推理防御方法仍存在防御成本较大以及隐私与效用无法得到良好权衡的问题。本论文通过对成员推理攻击与防御方法进行深入研究,以在有限的防御成本中权衡模型隐私与效用为目标,分别从模型训练优化角度与模型结构优化角度出发,设计高效的模型训练数据的隐私保护方案。本论文的主要贡献概括为以下两点:(1)提出了一个安全且有效的训练优化方案(Squeeze-Loss)。通过深入研究成员推理攻击隐私防御方案,设计了一个降低模型训练损失和测试损失之间差异的防御方案。该方案从模型训练优化的角度出发,首先设计了梯度上升机制实现降低机器学习模型的过拟合程度,以缩小模型在训练数据与测试数据之间存在的损失差距。其次,本方案引入了用于判断模型是否存在过拟合趋势的验证数据集。一旦模型出现过拟合,本方案便触发梯度上升机制,拉近模型在训练数据和测试数据之间的损失差距。结合理论分析以及实验验证表明,本方案在实现隐私保护的同时也最大程度的保留了模型的效用。(2)提出了一个新颖的隐私与效用权衡的防御框架(KD-DPSGD)。针对差分隐私在防御成员推理攻击中造成的模型性能损失问题,设计了一个有效缓解该问题的方案。该方案从模型结构优化的角度出发,首先结合知识蒸馏技术实现对模型的压缩,达到缩小模型结构和参数的目的,并尽可能的保证小模型的性能。其次,在压缩后的模型上应用差分隐私技术。在定量的隐私预算下,该方案可缓解差分隐私对模型性能造成的损失,并达到较好的隐私保护目的。为了证明该框架对模型隐私与效用性能的有效性,本文在多种成员推理攻击下,对该防御框架的隐私与效用进行了评估。
其他文献
近年来,参量阵浅地层剖面以其简便的野外采集方式、高分辨率的浅部地层成像能力,迅速发展为海底浅层天然气水合物探测的有效方法。为了更好地获取东海浅层天然气水合物赋存区的地质信息,针对参量阵浅地层剖面数据开展了精细化处理。首先将异常振幅压制和空间振幅均衡等方法有机结合,解决了数据中的各种噪音和能量不均衡等问题,然后利用Hilbert变换提高地层分辨率,最后利用信号增强技术进一步提高同相轴连续性,获得了波
期刊
智能照明是指利用物联网技术、有线/无线通信技术、电力载波通信技术、嵌入式计算机智能化信息处理,以及节能控制等技术组成的分布式照明控制系统,实现对照明设备的智能化控制,其内部的核心发光器件是LED光源。因此,如何实现LED光源的调光、调色是实现LED智能照明的关键。本文主要研究一种新型星空CSC调光、调色COB封装结构的设计,该设计采用蜂窝式的排列方式,可以在同一个光源、同一个发光面内实现不同色温的
期刊
<正>水产养殖是我国农业结构中发展最快的产业之一,2021年水产养殖产量接近5 400万t[1]。目前,池塘养殖多采用集约化、规模化的养殖方式,随着放养密度过大,投饵量过多,水体中粪便残饵量日益积累,饲料和渔药添加剂富集,导致水质恶化[2]。养殖尾水直接排放,污染了周边环境,对人体健康造成危害,严重违背了水产绿色健康养殖的理念[3-4]。
期刊
COB光模块有着功耗较低小、体积较小、速度较快的优点,但其耦合对准较为困难。为改善其COB光模块耦合对准的耦合效率和成功率,分析了耦合对准原理并经过实验理论分析了对准误差对耦合效率的影响。基于以上分析和研究,提出了一种快速耦合的自适应权重粒子群算法,完成了光纤和光发射端/接收端的快速定位,并与爬山法进行了仿真和实验对比,相比于爬山法的耦合成功率提高了32%,耦合时间加快了44%以上,证明了自适应权
期刊
<正>在《幼儿园保育教育质量评估指南》中,关于教师队伍专业发展有这样一条关键指标:“园长能与教职工共同研究制订符合教职工自身特点的专业发展规划,提供发展空间,支持他们有计划地达成专业发展目标。”我园青年教师占全园教师的三分之二,是园所教师队伍中的主力军,他们勇于创新、乐于进取,给幼儿园带来了新的活力,但同时也存在专业技能水平不足、教育教学经验缺乏的问题。
期刊
养殖尾水普遍存在水量大、有机物浓度高等特点,其治理存在难度高、推进缓慢等问题,由养殖尾水不达标排放造成的环境污染是农村面源污染的重要组成部分。文章通过对阳江地区养殖尾水处理现状与处理对策展开研究,经过实际调研,初步分析了以阳江为代表的粤西地区尾水治理的难点和制约因素,并通过电子问卷、实地访谈等形式展开调查,有效填报问卷数199份,初步明晰了当前尾水处理存在的主要问题和困境,并针对该制约性难题提出了
期刊
在规模化养猪中,对于哺乳母猪的饲养非常关键,不仅和仔猪的生长发育有着密切的关系,还影响着其自身的繁殖性能,直接影响养殖场的经济效益。采取综合措施提高哺乳母猪的采食量,根据生产性能进行营养调控,增加泌乳量,促进仔猪的生长发育,同时做好母猪分娩前后的管理,为下一个发情周期做好准备,从而提高养殖场的经济效益。
期刊
无线温湿度检测系统采用工业级无线模块进行数据传输和先进的自组网通讯技术,具有结构简单、容易布点、运行稳定、数据精准、能耗低、耐腐蚀性强的优势。同时,利用GrainDB数据分析平台实现对温湿度数据的存储管理,能够将异常区域的纵向和横向精确到1 m~3范围内,进而提高检测精度和减少保管员劳动强度。
期刊
<正>我园教师队伍趋于年轻化,青年教师成为园本研修的主体。“主动发展”是指青年教师在专业发展的过程中,具有较强的自觉性和主动性,能够发挥个人的能动性和创造性,树立自主提升专业素养的意识,推动自我成长和自我价值的实现。我园尝试改善园本研修现状,提高青年教师园本研修的主动性和参与度,在园内形成主动发展的氛围。同时,尝试总结园本研修组织形式和管理经验,有效提升园本研修质量,最终帮助和支持青年教师走向专业
期刊
在信息化不断推进,知识经济不断渗透的今天,各行业都需要人才才能促进发展,人才不足成了一大难题,尤以银行业为甚。银行业要获得稳定发展,职工的能力提升是必不可少的,因此,对人员的管理就显得格外重要。在员工队伍的管理中,所需先导工作是教育和培训,同时,它所具有的基础性意义、战略性工程对促进银行改革与发展有着不可替代的作用与影响。银行工作人员胜任力与银行发展呈正相关关系,也就是员工素质越高,银行的发展会越
学位