在今后的几年里,随着各种新技术的发展,如人工智能（artificial intelligence,AI）、物联网（Internet of things,Io T）和大数据（big data,BD）,对5G的需求会不断增加。在5G无线蜂窝网络中,非正交多址技术（non-orthogonal multiple access,NOMA）在改善频谱利用率和提高网络吞吐量等方面有着很大的应用前景。而将协作多点技术（coordinated multi-point,CoMP）应用到多个小区中,能够有效地减少小区之间的相互干扰,并提升小区的吞吐量和改善小区边缘用户的性能。利用CoMP技术可以对同一小区或不同小区的不同部分产生的干扰进行校准或减轻。传统4G中的基于CoMP技术的正交频分复用（orthogonal frequency division multiplexing,OFDM）系统可以减少小区间干扰,提高小区边缘用户的传输速率,但从基站到用户的每个子信道只能在同一时隙调度一个用户。随着5G密集蜂窝网络的建设,NOMA系统必须解决如何有效地调度蜂窝资源,减少蜂窝间的干扰等问题。因此,研究基于CoMP技术的NOMA系统的资源分配是非常有意义的。本文建立了以CoMP技术为基础的NOMA系统模型,从理论、算法、仿真等方面对用户需求速率预测、用户与子信道配对、功率分配等方面进行了研究。本文的主要研究内容和创新工作包括以下几个方面:（1）针对当NOMA-CoMP基站无法完全获取用户需求速率的问题,本文假设基站无法准确获取用户的需求速率,但能获取用户相关配置信息。利用中国家庭追踪调查（China family panel studies,CFPS）的数据集,使用多种机器学习的方法的同时,设计了一种基于Rus Boost算法的机器学习方法来预测用户的通信习惯。最后将用户对互联网使用习惯的频率从频率域映射到概率域上,提出了用户需求速率的量化公式。仿真结果表明,当基站无法准确获取用户的需求速率,但是能够获取一些相关用户配置文件时,能够通过学习预测方法将用户分类为高速率需求用户和低速率需求用户的正确性和可行性。（2）针对NOMA-CoMP系统中的用户分类与用户-子信道配对问题,本文先根据用户的自身状态以及需求速率,提出了用户分类和偏好集排序算法。接着建立了多对多的双边匹配问题,提出了基于NOMA-CoMP系统的多对多用户-子信道匹配算法（many-to-many sub-channel-user matching algorithm,MSUMA）。所提出的MSUMA算法能够将小区信道根据调度用户的不同分为联合传输（joint transmission,JT-CoMP）子信道和动态点选择（dynamic point selection,DPS-CoMP）子信道。仿真结果表明,提出的MSUMA算法能够在完美利用NOMA技术的优势同时,保证了边缘用户被子信道调度的概率,提高了整个系统用户的公平性。（3）针对NOMA-CoMP系统中的功率分配问题,本文提出了一种基于NOMACoMP系统的离散功率分配算法。在使用MSUMA算法将用户和子信道相互完成配对的基础上,针对不同的子信道类型提出了DPS-CoMP信道内功率分配算法和JT-CoMP信道内功率分配算法,最后利用子信道间的功率分配算法,完成整个系统的功率资源分配。仿真结果表明,所提出的用户配对和功率分配算法性能优于传统的基于协作多点的非正交多址（NOMA-CoMP）算法和最大吞吐量（maximum throughput,MT）NOMA-CoMP算法,在没有降低DPS-CoMP子信道中的用户和速率的同时,尽全力的服务了JT-CoMP联合子信道中高速率需求边缘用户。