【摘 要】
：
随着图形处理器的大型矩阵并行计算能力的快速发展,深度学习在计算机视觉的各个领域的应用也在快速地铺开。由于U-Net在深层语义信息提取、特征传递和层间信息融合等方面的优良特性,U-Net衍生网络在医疗影像语义分割领域发挥了巨大的作用。手工设计针对不同医疗影像分割任务的U-Net时,需要挑选合适的卷积核数量与尺寸等架构超参数,架构的超参数搜索十分耗时。同时,由于移动端手机、云端服务器等部署设备上计算资
论文部分内容阅读
随着图形处理器的大型矩阵并行计算能力的快速发展,深度学习在计算机视觉的各个领域的应用也在快速地铺开。由于U-Net在深层语义信息提取、特征传递和层间信息融合等方面的优良特性,U-Net衍生网络在医疗影像语义分割领域发挥了巨大的作用。手工设计针对不同医疗影像分割任务的U-Net时,需要挑选合适的卷积核数量与尺寸等架构超参数,架构的超参数搜索十分耗时。同时,由于移动端手机、云端服务器等部署设备上计算资源和存储空间差异巨大,不同部署设备上所能承载的网络规模不同,因而手工设计的U-Net网络架构也难以适用不同部署设备。因此本文在医疗影像分割U-Net上引入神经架构搜索（Neural Architecture Search,NAS）技术,设计了菱形空洞U-Net（diamond atrous U-Net,DAU-Net）超网作为子网架构搜索空间,进而考虑以分割误差、架构参数量为优化目标,提出了菱形空洞U-Net网络的高效多目标进化神经架构搜索算法。本文为减少NAS过程中的时间成本,设计了权重共享策略和代理模型近似评价策略。针对给定医疗影像分割任务,本文所提算法可高效搜索出适合不同部署设备的一组参数量少且分割误差低的优秀U-Net架构。本文的主要研究内容如下:（1）针对U-Net中存在的上下采样信息丢失、感受野变化过于规整、深层参数量冗余等缺陷,本文主要在残差卷积模块、inception结构、空洞卷积的基础上,提出了一种较新颖的菱形空洞卷积模块DAB（diamond atrous block）,DAU-Net中的每一个卷积模块都是菱形空洞卷积模块。菱形空洞卷积模块结合了三种形状各异的空洞卷积操作,并利用常规卷积核进行信息融合,以寻求在扩大感受野的同时,减少网络的参数量。在菱形空洞卷积模块基础上,在U-Net的跳跃连接中引入轻量通道注意力机制,同时微调U-Net中上下采样的方式,从而设计了DAU-Net超网,有利于后续从超网中利用通道选择来共享权重加速搜索。（2）在DAU-Net超网基础上,设计了高效多目标进化神经架构搜索算法。首先确定了以最小化分割误差和最小化架构参数量作为搜索的两个优化目标,设计了子网架构的搜索空间与染色体编码方案。以DAU-Net超网为基准来进化搜索子网架构,DAU-Net子网的卷积核尺寸和层数与超网保持一致,但子网中各个菱形空洞卷积模块内的空洞卷积的通道数量可在超网最大通道数范围内变动。本文采用NSGA-III作为多目标进化神经架构搜索的算法主框架,并进一步设计了两种架构性能评价加速策略。一方面借鉴迁移学习设计了基于超网-网通道排序的权重共享策略,子网可从提前训练好的超网依据通道重要性继承相应权重,减少评估子网优劣所需时间;另一方面设计了基于随机森林在线代理模型的近似评价策略,通过充分挖掘历史子网数据从而高效预测未来子网性能,进一步降低评价时间成本。在ISIC2018数据集和DRIVE数据集上的实验结果表明,和最近其他研究者手工设计的医疗影像分割网络相比,本文的DAU-Net超网在预测精度上有一定的提升。本文提出的高效多目标进化神经架构搜索算法得到的前沿上的DAU-Net子网,无论是在参数量还是预测精度上,相比于手工设计的网络有较明显的改进,并且本文算法能针对给定医疗影像分割任务一次性地自动搜索出一组兼顾参数量与分割精度的优秀U-Net网络架构,可适用于不同部署设备。
其他文献
深度学习技术的出现降低了数字媒体编辑的技术门槛,在影视制作、生活娱乐等领域具有良好的应用价值,同时也存在潜在的安全隐患。近年来,Deepfake换脸技术受到广泛社会关注,由其制造的恶意虚假视频的传播对社会舆论和身份信息安全造成了极大的威胁和冲击。由于Deepfake换脸视频带来的安全问题,换脸视频篡改检测已逐渐成为研究热点。目前的换脸视频篡改检测算法在训练数据库上可以达到良好的库内检测性能,但在跨
水凝胶是一种具有三维网络结构的高分子聚合物材料,能够容纳大量的水而仍然保持不溶性,并且具有良好的亲水性、渗透性、生物相容性和低摩擦系数等特性。因而水凝胶在生物医学等领域得到广泛利用,如药物输送、组织工程、隐形眼镜、伤口愈合、生物传感器膜、微流体阀、流体吸收剂等。然而,目前大多数水凝胶的力学性能和结构稳定性较差,而很多力学性能较好的水凝胶生物相容性较差,使其应用受到了很大程度的限制。因此,解决上述水
随着电力负荷的日益增长以及城市负荷密度的快速发展,20kV电压等级配电网将成为我国中压配电网发展的必然趋势。相比于10kV的城市配电网,20kV中压配电系统通常以全电缆送电为主,更大的供电半径导致系统对地电容电流也会更大,传统的阶段式零序过电流保护方案对于单相高阻接地故障的情况将失效。同时,不同中性点接地方式下的单相接地故障所表现的故障特征也不尽相同,尤其是对于零序分量而言。而现有对于中压配电网的
森林火灾以及生物质的焚烧使富氮生物炭在自然环境,尤其在土壤和沉积物中不断蓄积。富氮生物炭孔隙发达,表面电子活度强,可吸附、固定毒害污染物,并产生相互作用。富氮生物炭中因氮取代碳网结构中碳的位置差异,存在三种不同的构型（吡咯氮、吡啶氮和石墨氮）,这些构型氮使富氮生物炭在电子转移或电子对共用等方面表现出显著差异,进而可能影响富氮生物炭与重金属之间的交互作用。为了明确环境中大量存在的富氮生物炭中不同构型
对于新创农村网络零售企业而言，资源不足是制约其持续发展的重要因素。而构建科学的创业网络，有助于为新创农村网络零售企业发展提供丰富的资源土壤，这能够促进企业绩效的提升。基于此，本文通过调研处于电商产业园的农村新创网络零售企业，并收集了相关数据，采用AMOS软件检验变量间的直接作用关系，采用SPSS软件检验带有调节效应的变量关系，旨在为新创农村网络零售企业提升企业绩效提供理论指导。
得益于低廉的成本和丰富的地壳储量,钾离子电池被视为是锂离子电池潜在的替代者。但是,相比于Li+,K+不仅扩散速率更慢,而且半径更大,在材料中进行脱嵌时造成的体积膨胀更加剧烈,对结构的破坏更为严重,尤其对于钾离子电池负极材料。钴基氧化物、硫化物由于具有较高的放电比容量被视为钾离子电池的最佳负极材料候选者之一,但是由于K+脱嵌的过程对结构破坏十分严重,导致其倍率性能差、循环寿命短。而通过合理的结构设计
人脸识别是进行身份验证的一项关键技术,能够快速、便捷、高效地对目标人脸完成鉴权。过去十几年来,在深度学习的推动下,人脸识别技术实现了飞跃式的发展。尽管如此,人脸识别技术的发展仍然受到姿态、光照、遮挡等因素的制约,其中姿态变动的影响尤为显著。因此,相当多的科研人员投入跨姿态人脸识别研究之中,从网络结构设计、损失函数改进、训练数据利用方式等多角度进行探索。基于前人的工作并针对其缺陷,本文从以上多个角度
热刺激响应性水凝胶材料是一类对外界施加的热场能够做出相应结构或性能改变的智能材料。传统的热刺激响应性水凝胶,由于网络结构的不均匀性以及缺乏在高应力水平下能够耗散能量的结构,为此大多应用在药物释放、组织工程、智能变色窗户等对力学性能要求比较低的领域。近些年来,随着热刺激响应性水凝胶在驱动器、形状记忆元件、防护器件等工程领域的应用需求,不仅要求材料本身具有高的模量和韧性,而且要求凝胶在热刺激前后有显著
半纤维素是自然界中第二丰富的糖类,其储量仅次于纤维素。作为植物细胞壁中主要成分之一,因其独特的理化性质在食品和医药领域有广泛应用。而半纤维素与纤维素和木质素之间构成的复杂三维网状结构,使半纤维素的提取变得极其困难。因此,如何高效的从木质纤维原料中分离半纤维素已成为当下研究热点。我国每年产生的农业废弃物数量巨大,大多被丢弃或燃烧,资源利用率较低。从农废中分离半纤维素,变废为宝,对环境保护和社会可持续
柔性光电器件的发展对透明导电薄膜（Transparent conductive film,TCF）进一步提出了可弯折、可拉伸的要求。采用低成本的溶液加工方法制得的银纳米线（AgNW）渗流网络表现出高导电性、高透明性和可拉伸性,被认为是替代刚性的铟锡氧化物（ITO）透明电极的理想材料。但由于AgNW与柔性/可拉伸透明基底的模量差异较大和界面作用力弱,在机械变形特别是拉伸变形下AgNW易滑移或从基底脱