深度学习因其为非结构化数据提供了强大的自动特征提取和表征能力,从而在计算机视觉、自然语言处理、机器人技术等人工智能领域展现了优异的性能。针对不同的实际应用场景,人工设计出了许多高性能神经网络结构,但手工设计网络结构往往需要丰富的目标领域专业知识与极高的人工成本。为了解决这一问题,自动化设计神经网络结构受到了学术界和工业界的广泛关注。神经网络架构搜索（Neural Architecture Search,NAS）是目前自动化网络结构设计的主流方法。其中可微分神经网络架构搜索算法将离散的体系结构搜索空间松弛为连续的,从而利用梯度来优化体系结构参数来搜索网络结构,因此极大地减少了计算资源的消耗,促进了NAS算法的实际部署与应用。然而,搜索空间的连续松弛和可微分的搜索策略在高效完成网络结构搜索的同时也致使可微分NAS算法存在一系列的固有缺陷。因此,本论文旨在进一步优化可微分神经网络架构搜索算法,弥补其自身的固有缺陷和根据实际应用需求使算法具备硬件感知能力,提升可微分NAS算法的搜索性能和结构的泛化能力。首先,本论文提出了多路径限制连通可微分神经架构搜索算法。针对可微分神经网络架构搜索算法固有的深度差距和搜索崩溃问题,提出了限制连通算法和优化了算法的参数映射方式与损失函数。限制连通算法加深了体系构建单元的深度,使其更加适合深度网络从而减少评估网络体系构建单元的堆叠数量,弥补了深度差距。设计的0-1系数损失与归一化合作式参数映射函数简单高效地解决了搜索崩溃问题,使算法可以在有限的资源下进行更精确的搜索。同时,本文提出的方法也填补了可微分NAS应用于多路径搜索空间的空白,精心设计的适配可微分搜索策略的多路径搜索空间使得体系构建单元能够提取和融合不同尺度的特征,提升了网络的特征提取和表示能力。多路径限制连通可微分神经架构搜索算法以最少的参数量（仅2.5M）在基准数据集上实现了最先进（state-of-the-art,SOTA）的性能且搜索出的结构表现出了强大的泛化能力。接下来,可微分NAS算法因其复杂的搜索空间表示而导致难以使搜索策略具有硬件感知能力,但移动终端的普及和人工智能应用场景的扩宽都迫切要求网络结构在目标硬件设备具有低推理延时的特性。因此,本论文提出了硬件延时感知的可微分神经网络架构搜索算法。首先构建目标硬件设备的延时预测代理数据集、然后利用软注意力机制和Mish激活函数搭建硬件延时预测网络,从而精准预测复杂搜索空间中网络结构的延时,最后将硬件延时约束嵌入可微分神经网络架构搜索算法。本文提出的方法可以高效低成本地转移到不同的硬件设备,搜索得到兼顾精度与推理延时的高性能网络结构,满足了可微分NAS算法的实际应用需求。本论文研究并实现了对可微分神经网络架构搜索算法的优化,提出的方法实现了低资源消耗的精准网络结构搜索,满足了复杂人工智能任务对网络性能的高要求,并且对于神经网络在移动终端和边缘计算设备上的部署有着重要的理论意义和实用价值。