第五代无线移动通信系统(the 5th generation,5G)为了实现万物互联,需要可支持海量链接的接入方式。功率域的非正交多址接入(Non-orthogonal Multiple Access,NOMA)技术作为5G多址接入的备选技术,可以使得系统实现用户过载,增大系统服务用户数,从而提高系统频谱效率。并且其接收端采用串行干扰消除算法(Successive Interference Cancellation,SIC)检测,使得其接收机设计简单,复杂度低。超密集组网(Ultra-dense Network,UDN)作为5G的关键性技术之一,通过小区内基站密集化以及其资源合理分配,从而提升系统区域频谱效率。将功率域NOMA与超密集组网结合在一起,可以进一步提升系统服务用户数和系统的谱效,本文主要研究基于功率域NOMA的超密集组网资源分配算法及其性能。首先,本文通过分析两用户NOMA的功率分配方式,提出了一种保证用户通信质量最优功率分配方案,即给定门限功率(Threshold Power,TP)分配方案,进而推导基于该功率分配方案的容量增益,并进一步研究了两用户NOMA的误码性能,给出理论误码率的闭合表达式。然后对功率域NOMA与超密集组网结合后的谱效以及能效,进行了分析和仿真验证。其次,针对单速率业务异构网络资源分配问题,提出了功率域NOMA与超密集组网结合的一种异构网络系统,并且针对该系统探讨了宏基站和微基站的用户选择匹配以及功率分配问题,给出了基于Hungarian算法的次优用户匹配算法和最优功率分配算法,并给出宏基站与微基站合作博弈算法已逼近系统局部最优解。最后,针对多速率业务异构网络系统资源分配问题,讨论了三种业务对异构网络系统资源分配方案的影响,并且针对不同业务的业务速率和带宽不同,本文提出了一种基于贪婪算法的业务替换匹配(Business Replacement Matching,BRM)算法和一种阶梯注水功率分配(Ladder Waterfilling Power Alloction,LWPA)算法,并且仿真分析了不同业务要求对系统性能的影响。