随着多媒体应用得到越来越多的普及,未来移动通信系统需要满足更高的要求。此外,由于物联网的快速发展,终端设备接入数量也呈快速增长趋势,将很快超出目前系统的容量。因此,面对不断涌现的新业务种类,5G需要在系统性能方面作进一步提升。并且由于频谱资源日渐稀缺,正交多址接入技术会存在诸多限制,引入新型技术是非常必要的。非正交多址接入(Non-Orthogonal Multiple Access,NOMA)技术不仅能够支持大规模用户接入,而且还能很大程度上提升频谱效率,因此成为了5G的一项关键技术。此外,NOMA技术可以与现有的其他技术兼容,在实际应用中将中继和NOMA技术相结合能够实现系统性能的进一步提升。本文主要从系统容量和能量效率角度对上行NOMA系统的用户分组和功率分配方案展开研究。首先,本文研究了以系统容量最大化为目标的NOMA系统的资源分配问题。由于原问题的复杂性,本文将从用户配对和功率分配两方面对其进行研究。本文先对单小区中的用户配对方案进行了研究,在原有的远近配对方案与均匀信道增益差异(Uniform Channel Gain Difference,UCGD)配对方案的基础上,研究了两种混合配对方案以降低用户间的干扰。然后,在NOMA用户组的总发送功率、用户最大发送功率、用户最小传输速率约束下,研究了上行链路的总吞吐量最大化问题,并利用Karush-Kuhn-Tucker(KKT)条件导出NOMA组内最优功率分配方案的闭式解。仿真结果表明,采用本文所提方案的NOMA系统容量远超OMA系统。其次,本文研究了基于中继的多载波非正交多址(MC-NOMA)系统的资源分配问题。本文以系统能量效率为优化目标提出了关于用户组和中继的功率分配问题,该优化问题主要涉及子载波叠加用户的功率分配以及中继在子载波间的功率分配两方面。在第一个子问题解决的情况下,对第二个子问题进行求解。然后,考虑到用户公平性,将子载波上叠加用户的功率分配问题转化为系统加权能效的最大化问题,其中将系统加权能效定义为系统加权和速率与总功耗的比值。最后利用Dinkelbach算法和拉格朗日对偶分解方法的思想提出了一种基于迭代的功率分配算法。仿真结果表明,采用本文所提出算法的NOMA系统在能量效率上要优于传统的注水法以及OMA系统。