近年来,以神经网络为代表的深度学习方法快速发展,在众多领域中取得了巨大的成功。然而,为了学习复杂的目标特征,深度学习模型通常包含大规模权重矩阵,导致其存储空间大、计算复杂度高,因而难以在边缘端小型设备上实现推理和训练,给深度学习的应用带来了挑战。为了降低深度学习方法的存储开销与计算复杂度,本文首次引入随机矩阵近似分解方法,提出了新型的高性能、低复杂度神经网络层结构和存储/计算方法,只需对多个小型矩阵进行计算,即可实现大型深度学习模型的推理/训练,在确保学习和泛化性能基本不受影响的情况下,可最大限度降低所需的时间/空间复杂度,为边缘端设备的轻量级深度学习提供了一种全新的方法和思路。论文的主要创新点包括:(1)针对全连接网络层权重矩阵推理/训练过程复杂度高的难题,利用CUR矩阵近似分解方法,将大规模权重矩阵近似分解为三个小矩阵,提出了新型的低秩连接层结构;通过对三个小矩阵进行计算和更新,实现低秩连接层的轻量级推理/训练,在保证测试性能下降小于1%的情况下,实现了对权重10倍以上的压缩。(2)针对卷积网络层权重矩阵大导致推理/训练过程复杂度高的难题,引入了随机采样和近似计算的方法,将大型的权重矩阵近似分解为三个小矩阵,提出了新型的低秩卷积层结构;通过将高复杂度的卷积运算替换成多个低复杂度的小矩阵乘法,实现了低秩卷积层的轻量级推理和训练,在保证模型泛化性能基本不变的情况下,实现了卷积权重体积2～3倍的压缩。(3)针对卷积网络层输入特征矩阵规模大、推理\训练运算复杂度高的难题,借助随机矩阵近似逼近的方法,用三个小矩阵来近似表征大型输入特征矩阵,提出了新型的输入特征分解的卷积层结构;通过优化设计保证近似精度,将卷积运算中的大矩阵乘法替换成多个小矩阵乘法,实现了卷积计算3～5倍的加速。本论文最后综合了所提出的方法,构建了低复杂度的深度学习模型。仿真实验表明,本文构建的模型能够在不降低泛化性能的情况下,大幅降低模型运算的计算复杂度和存储开销,对轻量级深度学习方法研究具有重要意义。