随着人工智能技术的快速发展,以深度神经网络为代表的智能算法成为了如今终端智能应用产品的关键技术支撑,在图像分类、自然语言处理、视频分析等领域得到了广泛地研究与使用。此类应用中深度神经网络的推断过程通常具有任务密集型与计算密集型特点,需要消耗大量的资源。然而,多数终端设备计算能力较弱难以支撑模型推断,而传统的云计算模式存在高延迟通信瓶颈,无法满足智能应用的低时延需求。为解决现有计算模式的不足,边缘智能作为一种新型的智能计算范式在近几年备受关注。边缘智能通过利用边缘计算的优势,将智能服务从云端迁移至网络边缘执行,提高服务的响应速度与可靠性。借助边缘智能框架加速深度神经网络推断,现有工作主要围绕模型优化与协同推断优化展开研究。然而,在模型优化方面,模型压缩方法易造成不可逆的准确率损失,而现有的模型提前退出方法虽保证了准确率却无法适应数据复杂程度分布的多样性,由此导致大量的模型计算冗余;在协同推断方面,现有方法存在节点之间大量的数据同步通信,在动态网络环境下易产生性能瓶颈,同时,有限的边缘节点资源与终端异构的环境特点对协同推断加速技术提出了更严峻的挑战。针对以上问题,本硕士论文围绕边缘智能应用场景,将多出口深度神经网络（Multi-exit DNN）引入端边协同推断模式,利用模型提前退出特性,分别从模型出口设置与任务卸载决策展开优化,具体包括三个部分:（1）针对数据分布多样性引起的模型计算冗余问题,提出了一种数据感知的Multi-exit DNN出口选择机制,在保证可靠的准确率前提下,通过采集模型各出口的样本退出概率分布与模型各层计算量分布信息,自适应地选择符合数据分布的最优出口设置（包括出口位置与数量）,实现最小化Multi-exit DNN的计算量。（2）针对终端异构性、网络动态性与边缘资源有限性问题,提出了一种端边协同推断的模型切分与资源分配联合优化机制,通过结合Multi-exit DNN的特性,并根据模型计算特点、网络环境和设备资源约束,为异构终端提交的推断任务实现自适应地模型切分与资源分配联合决策,降低任务平均执行时间,提高协同推断效率。（3）基于上述理论成果,设计并实现了面向边缘智能应用的协同推断加速原型系统,系统采用端边协同模式,完成了终端层与边缘层的核心功能模块开发,并在边缘计算环境下进行系统部署与运行测试,验证了系统对边缘智能应用的性能提升效果。综上,本文针对边缘智能应用场景中的深度神经网络推断加速问题进行了理论研究与系统实现。实验结果表明,本文所提机制有效地提高了模型推断速度,并能良好地适用于异构终端与动态网络环境。本文的理论成果与原型系统有助于推进人工智能算法在边缘计算场景中的应用部署,为构建边缘智能生态系统提供支持。