随着网络规模的不断扩张,对移动通信系统容量提升的要求越来越高,在后4G时代,发展新的移动通信系统多址接入技术势在必行,无线多址技术的研究也将成为新一代无线网络技术的研究重点。非正交多址技术NOMA的功分多址系统利用功率来区分用户,用户可以同时、同频传输信号,大大提高了系统容量,是本文研究的重点。但是功分多址系统极大依赖于信道状态估计以及编码和智能检测技术,因此不便单独使用。考虑到这些特点,本文将基于NOMA的功分多址,分别对发送端和接收端进行改进,通过使用或与其他技术相结合,实现系统性能优化,具体研究内容及成果如下：首先,本文结合星座旋转叠加技术,实现在发送端与星座旋转叠加调制技术相结合的功分多址系统,改善功率控制因子在单独实现时受信道估计影响而造成的系统性能浮动,并在接收端配合串行干扰抵消MMSE-SIC算法,结合功率分配因子,进一步提高系统可靠性能。通过大量的仿真实验可以看出,该系统在较高信噪比下可以有良好的性能。其次,本文对发送端的功率分配方案进行了讨论和对比。本文主要讨论的为基于比例公平PF算法的功率分配方案与等功率分配两种方案的系统容量对比。仿真结果可以看出基于比例公平PF算法的功率分配可以在系统整体用户平均吞吐量和边缘小区用户吞吐量之间获得更好的折中。最后,本文结合DS证据理论,对接收端的算法进行进一步改进,实现基于DS证据理论的联合检测算法,解决MMSE-SIC在功率分配较接近时差错传播问题造成的性能骤降。不同参数的仿真数据可以看出,当各用户间功率分配相差越小,基于DS证据理论的联合检测算法相较于传统的串行干扰抵消算法,在几乎所有接收信号信噪比区间都有更高的系统性能增益,同时也优于传统的联合检测算法。以上的讨论由于综合考虑了系统复杂度以及可靠性等性能,因此具有实际应用意义。