【摘 要】
：
近年来,随着人工智能研究不断深入和拓展,越来越多的人工智能系统应用于社会生产和生活中,比如人脸识别、自动（辅助）驾驶、语音识别等。与此同时,这些人工智能系统也暴露出不少安全问题。人工智能图像识别系统应用广泛,容易遭到攻击。攻击者在图像中添加不易察觉的扰动,形成对抗样本,可让识别系统做出有高置信度的错误识别,进而引发预期外严重后果,对此研究人员提出了许多对抗样本防御方法,但是不同的方法通常伴随着计算
论文部分内容阅读
近年来,随着人工智能研究不断深入和拓展,越来越多的人工智能系统应用于社会生产和生活中,比如人脸识别、自动（辅助）驾驶、语音识别等。与此同时,这些人工智能系统也暴露出不少安全问题。人工智能图像识别系统应用广泛,容易遭到攻击。攻击者在图像中添加不易察觉的扰动,形成对抗样本,可让识别系统做出有高置信度的错误识别,进而引发预期外严重后果,对此研究人员提出了许多对抗样本防御方法,但是不同的方法通常伴随着计算量大、实现复杂等缺点。针对图像对抗样本攻击问题,本文分析了对抗样本中扰动不易察觉的特点,提取图像低频信息,然后用于模型训练,影响模型的参数,降低高频扰动对系统识别的影响,提升系统识别对抗样本的准确率。本文主要开展了以下两种方法的研究:（1）基于图像低频信息的对抗样本防御方法。通过分析人与模型对图像中低频信息与高频信息敏感度的差异,将低频信息图像应用于模型,具体过程如下:首先把图像压缩,然后将压缩后图像的像素按照简单复制方式填充为原图像大小,获取低频信息图像,使用原图像与低频信息图像分别训练两个结构相同的子模型,最后把这两个子模型用于图像样本识别,综合起来作为识别结果。实验结果表明,使用LeNet模型与MNIST数据集在FGSM（ε=0.15）攻击下,模型识别准确率提高了约14%,具有一定效果。（2）基于残差网络的对抗样本防御方法。通过分析残差网络对图像的应用方式,将原图像与低频信息图像应用于同一模型,具体过程如下:首先将图像压缩,得到低频信息图像,然后使用一个卷积层与一个池化层提取原图像特征图,将特征图与低频信息图像结合,经过卷积层、池化层与全连接层后得到识别结果。实验结果表明,使用LeNet模型与MNIST数据集在FGSM（ε=0.20）攻击下,模型识别准确率提升超过了70%;使用AlexNet模型与ImageNet数据集在FGSM（ε=0.05）攻击下,模型识别准确率提升了49%,效果显著。
其他文献
海南黎族基于地理位置和自然资源形成了独特的地域文化,塑造了多样的文化遗产。街道空间作为黎族村落的基本骨架,是地域特征的主要空间载体,也是展示整体面貌的“门面”。为改善黎族村落街道空间同质化现象,提升民族特征识别度,增强民族认同感,传承黎族地域文化。从空间叙事理论视角入手,对黎族地域特征进行梳理归纳,针对黎族元素进行提取和转译,将叙事性设计方法融于街道空间设计中,探寻黎族村落街道空间叙事性设计路径,
互联网技术和智能设备的快速发展给信息传输带来了便利,但信息被窃取的风险也在增加。隐写术是保护信息传输安全的一项重要技术,隐写术将秘密信息隐藏到传输载体,通过传输含密载体实现秘密信息的安全传递。由于图像具有丰富的冗余特性,通常选择图像作为传输载体,图像隐写技术可以实现秘密信息的安全传递和隐藏通信行为的存在,因此受到广泛的关注和研究。传统图像隐写算法通过修改载体图像的像素值实现秘密信息的嵌入,同时设计
随着车联网、远程医疗、全息影像等技术高速发展,高信道容量的5G网络代替传统4G已成为不可逆的趋势。在5G蜂窝通技术中,毫米波（Millimeter-wave,mm Wave）频段由于拥有巨大的可用带宽而受到学术界、商业界和政府的极大关注。除此之外,大规模多输入多输出（Multiple Input Multiple Output,MIMO）天线技术的提出,不仅解决了传统MIMO系统中需要采用复杂非线
随着5G网络商业化部署的逐渐铺开,为了补充宏站的辐射盲区而建设的5G小基站越来越受欢迎。小基站作为5G在室内部署的主力,有必要建立一套适用于5G小基站的通信系统。为了满足5G时代多用户、多设备以及多种不同场景的需求,小基站系统的各模块需要兼顾高速、可靠性、灵活性。所以进行一些小基站实现方案的讨论是非常有意义的。本文的研究工作是实现了一个低延迟、低开销的,相对通用的小基站信道估计和均衡模块,满足了3
传统的卫星通信网络有传输时延大,频谱资源少等缺点,且在通信过程中一般只扮演中继站的角色,其本身并没有数据处理的能力,也无法满足时延敏感或者能耗敏感型业务的发展。考虑到上述传统卫星网络的不足之处,基于移动边缘计算的实际应用环境,提出将移动边缘计算环境架设到低轨卫星网络中,并结合星地一体化技术,形成基于双边缘计算的B5G星地网络架构,从而满足各类新兴业务应用需求。通过在卫星端设置边缘计算节点,能够使业
车辆自动识别属于图像识别与检索的范畴,是实现智能交通管控、刑事侦查、目标追踪的重要手段之一。车辆重识别（Vehicle re-identification）是指在不同摄像头拍摄的图像中找到指定车辆的技术,即给定某一场景中待识别车辆的图像,在其他场景中检索出与待识别车辆具有相同身份的车辆,是跟踪车辆行驶轨迹以确定目标车辆准确位置的手段之一。近年来,随着深度神经网络的兴起和大型数据集的建立,以及无人驾
为响应国家和社会对提高教育质量的号召,教师需要不断更新教学技能,改进教学方式。但由于教师的增多、在线课程的涌现,课堂中仍存在诸如:教学互动性差、教学质量难以评估、监管滞后等各种问题。产生上述问题,其中很大一部分是由课堂言语表达方式造成的,而课堂言语分类领域目前鲜有学者研究,缺乏权威结构化数据集以及针对性模型。教师在课堂中的言语,不仅是向学生传授知识最有效的手段,同时也影响着学生的精神和心理状态,对
教学投入是教师为了确保和不断提高教学质量而所进行的努力和付出。从教学投入的主体看,是专门研究义务教育阶段教师的教学投入。从教学投入的要素来看,包括时间投入、精力投入、情感投入和资源投入。从教学投入的领域上看,包括课前准备投入、教学实施投入、课后服务投入、教学成长投入。教学投入对教师、学生、国家、民族复兴具有深远持久的意义,且具有主体差异性、全面性、循环性和动态性的特点。研究海口市义务教育教师教学投
近年来,随着机器人教育的不断发展,基础教育阶段的机器人教学日渐普遍,其评价方法受到了越来越多教育研究者的关注。当前,我国小学机器人教育的评价方法单一,只根据作品对学生评价,无法全面评价学生能力与素养的发展变化,因此,小学机器人教学评价方式亟需变革。基于证据的学习理论为解决小学机器人教学评价问题提供了思路。它重点关注学生的学习过程,利用学习证据表征学生的学习结果并由此证明教学开展的有效性。本文阐述分
随着海南自贸港的加速建设,海南黎锦图案受到了越来越多的人的关注和喜爱。海南黎锦图案作为黎锦的重要组成部分,应用到了各种各样的设计产品中,为传播海南黎族文化提供了一大助力。但是,学者们大多关注黎锦图案的艺术风格研究,很少有学者将人工智能算法引入到黎锦图案的智能识别与分类研究中。因此,本文以非物质文化遗产黎锦的重要组成部分——海南黎锦图案作为研究对象,将机器学习和深度学习的思想引入到黎锦图案的识别与分