从第一代移动通信到现在第五代移动通信（5G），无线通信技术的飞速发展极大地改善了人们的生产生活方式。为了实现未来网络对更高的系统吞吐量、更高的用户速率和更多的同时服务用户数需求，功率域非正交多址接入（Power Domain Non-Orthogonal Multiple Access，PD-NOMA）和异构网络结构（Heterogeneous Network，HetNet）被广泛关注。PD-NOMA能够在功率域实现小区内频谱资源的复用，HetNet能够在空域实现频谱资源的复用，二者结合而成的基于PD-NOMA技术的HetNet能实现频谱资源复用率的增大以及服务用户数的增加。但同时引入了更多的干扰，可能造成系统最大和速率、用户传输速率以及用户间公平性的降低。通过设计合理的无线资源分配算法能够有效解决这些问题，提升系统性能。因此，本文针对不同的通信环境和用户需求，从功率控制、用户配对、信道资源分配等方面研究提升系统性能的算法和技术，主要创新点包含以下三个方面。
　　第一，针对在统计信道状态信息场景下，跨层干扰导致上行链路用户公平性降低的问题，提出了一种联合功率控制和用户配对的资源分配算法。首先为了提升PD-NOMA上行链路中用户对内和用户对间的公平性，根据琴生不等式，提出了一种新的公平性优化目标函数。然后，为了提升用户对内的公平性，提出了基于预测的粒子群功率控制算法（Prediction based Particle Swarm Optimization，PBPSO）。PBPSO能够动态调节迭代收敛能力和空间搜索能力，在保证用户满足中断概率限制的同时，有效地提升了用户对内的公平性。最后，为了提升用户对间的公平性，提出了基于概率的禁忌搜索用户配对算法（Probability based Tabu Search，PTS），将非凸整数规划问题进行松弛求得近似解后，结合量子搜索算法将得到的解转化为配对概率，并通过禁忌搜索算法寻找最优解决方案。PTS能够解决整数规划中局部最优问题，提升了用户对间的公平性。仿真结果证明，本文提出的联合功率控制和用户配对的资源分配算法在保证满足中断概率限制的同时，提升了上行链路用户公平性。
　　第二，针对跨小区干扰导致下行链路最大和速率下降的问题，提出了基于图论的信道资源分配算法。在算法中，为了解决强干扰问题，提出了基于极大团的染色算法，在满足SINR门限情况下，提升了用户占用子信道数量以及系统最大和速率。为了进一步解决累积干扰问题，提出了基于超图谱聚类的资源分配算法，通过将具有较少干扰的用户聚为一类，降低了系统的总干扰。并且，为了降低计算复杂度，利用权重矩阵的稀疏性，采用Lancozs算法对矩阵进行降维处理，将原优化问题转换为求降维后矩阵的特征向量问题进行求解，在降低了计算复杂度的同时提升了系统最大和速率。仿真结果证明，本文的算法能够在授权接入模式下，提升下行链路系统最大和速率。
　　第三，针对在非完美串行干扰消除（Successive Interference Cancelation，SIC）情况下，SIC残留干扰引起系统最大和速率下降的问题，提出了基于连续凸逼近（Successive Convex Approximation，SCA）的下行链路功率控制算法。该算法将功率控制分解成基站内功率分配系数优化和基站总发射功率优化两个子问题迭代求解，能够获得非完美SIC下最优的SIC解码顺序，提升了系统和速率。为了解决其中的非线性分式规划问题，通过连续凸逼近将比例目标函数转化为若干个凸优化问题进行求解，提升了系统最大和速率。最后，为了衡量基于SCA算法的有效性，本文提出了基于Polyblock外逼近的功率控制算法进行对比，该算法虽然具有极高的计算复杂度无法用在实际系统中，但能提供优化性能上界。仿真结果证明，本文基于SCA的算法，以较低复杂度达到接近上界的优化性能，在非完美SIC下提升了下行链路系统最大和速率。
　　通过本文的资源分配算法研究，能够有效地提升PD-NOMA异构网络上行链路的公平性以及下行链路的系统最大和速率。