近年来,随着通信技术的不断进步,移动通信已经过四代创新,第五代（the fifth Generation,5G）移动通信系统已经投入使用。5G标准中对通信速度和系统容量提出了更高的要求,而传统的正交多址接入（Orthogonal Multiple Access,OMA）技术,不能完全满足5G多场景中对通信速度和系统容量的需求。非正交多址接入（Non-orthogonal Multiple Access,NOMA）技术凭借着更高的频谱利用率,成为了5G场景中的热门研究技术。同时,高维调制可以进一步提升星座点间的最小欧式距离,获得更好的检测性能。因此本文首先研究了码域NOMA和功率域NOMA的原理,然后在此基础上针对基于高维调制的非正交多址接入技术进行了相关研究,论文的具体研究内容如下:1.针对理想信道估计下功率域NOMA系统中的功率分配问题,研究了影响用户误码率边界的因素,并以此为基础分别得到用户误码率宽松界和紧致界的表达式。在此基础上提出了一种满足系统误码率要求时使系统发射功率最小的功率分配策略,该策略只依赖于NOMA系统中用户间的相对功率增益和调制星座矩阵特性。仿真结果表明,在不同的相对功率增益和调制星座矩阵场景下,可以使得系统中两用户间的检测性能差距小于2d B。2.针对非理想信道估计下功率域NOMA系统中的功率分配问题,分别以实数传输系统和复数传输系统为基础,研究了信道估计误差对用户误码率边界的影响,并以此为基础分别得到用户误码率宽松界和紧致界的表达式。在此基础上分别在实数传输系统和复数传输系统中提出了一种满足系统误码率要求时使系统发射功率最小的功率分配策略,这两种策略都只依赖于两用户间的相对功率增益和调制星座矩阵特性。仿真结果表明,在不同的相对功率增益、调制星座矩阵和信道估计误差场景下,可以使得系统中两用户间的检测性能差距小于2dB。