随着5G商用和物联网的快速发展,智慧城市、智能交通、智能家居、现代农业等领域的万物互联趋势对移动通信提出了更高的要求。面对海量用户、频谱资源短缺以及数据流量的飞速增长,传统的正交多址接入（Orthogonal Multiple Access,OMA）技术已经无法满足现代移动通信的要求。与OMA不同,非正交多址接入（Non-Orthogonal Multiple Access,NOMA）技术在时域和频域的基础上开发了功率域,允许多个用户共同使用一个时频资源来传输信号。发送端给用户分配不同的发射功率,接收端通过功率来区分用户。NOMA在用户连接数量、公平性、数据传输速率和频谱利用率等方面相比OMA具有明显的优势,成为下一代移动通信的候选多址技术。NOMA系统的性能与资源分配直接相关,本文重点研究NOMA系统下行链路的资源分配方法,包括用户分组和功率分配。本文介绍了NOMA与OMA的区别,以两个用户为例介绍了NOMA系统的原理和优势,NOMA中使用的关键技术,常见的用户分组方法和功率分配方法以及深度学习的有关概念。本文研究了多载波NOMA系统下行链路的用户分组和功率分配问题。针对基于信道增益差最大的用户分组方法的缺点,提出了一种改进的用户分组方法。首先按照信道增益降序对所有用户进行排列,按照信道增益差最大的方法对用户分组。然后当剩余中间6个用户时改变分组方式,第一个用户与第四个用户配对成组,第二个用户与第五个用户配对成组,第三个用户与第六个用户配对成组。改进的用户分组方法扩大了中等信道质量的用户在分组时的信道增益差,并提升了系统和速率。在功率分配阶段,以系统和速率为优化目标建立数学模型,使用分步优化的思路来求解含有约束条件的非凸优化问题。首次提出采用深度学习算法在子载波之间分配功率,使用全连接神经网络（Deep Neural Network,DNN）得到和速率最大时的子载波功率,再根据约束条件推导出子载波内用户功率分配的封闭表达式。通过仿真验证,本文提出的方法在系统和速率方面要优于传统方法。本文研究了在用户分组确定的前提下,NOMA系统下行链路的功率分配效率问题。在以往大多数的功率分配研究中都是从提高系统性能的角度,忽略了算法的计算效率。对非凸优化问题的求解往往是通过两步功率分配方法来得到一个次优解,首先在子信道间分配功率,然后为子信道上的用户分配功率。这样既增加了功率分配的时延,又增加了信令开销。本文提出一种基于DNN学习的功率分配方法,分为线下训练和在线预测两部分。通过数据集线下训练DNN模型,在实际应用时只需使用训练好的模型的前向传播算法在线预测用户的功率。前向传播是简单的矩阵相乘相加运算,再经过简单的非线性处理。因此,DNN能够以较低的复杂度得到用户的发射功率。通过仿真验证,训练好的DNN模型在功率分配方面表现出色,能够在确保系统性能的同时显著减少计算时间。