随着各种数据密集型应用(如智能终端、多媒体、自主交通和虚拟现实)的兴起，第五代(the Fifth Generation,5G)移动通信系统的主要需求是增加容量、提高数据速率、减少延迟和改进服务质量。针对上述需求，迎接未来的挑战，一些关键的技术被提出，如非正交多址技术、物理层传输技术、大规模天线和毫米波。其中，速率分割多址技术（Rate Splitting Multiple Access,RSMA）作为一种非正交多址技术利用自身特性，有效地提高频谱利用率和能源效率。RSMA在发送端将发送给用户的信息分割成公有信息和私有信息，并将所有用户的公有信息叠加编码后进行传输，在接收端使用连续干扰消除(Successive Interference Cancellation,SIC)技术对用户信息进行解码。用户在解码时先将所有用户的私有信息当作噪声处理来解码公有信息，然后移除已解码的公有信息后，再解码相应的私有信息。速率分割多址技术与其它现有的非正交多址技术相比的优势在于速率分割多址技术不需要考虑用户之间信道差异大的条件，并且不需要全部解码干扰，减少了用户解码的复杂度。
　　广义速率分割多址技术（Generalized RSMA,G-RSMA）作为一种传统的RSMA技术具有显著提高无线网络能量效率和频谱效率的潜力。首先，本文研究了在功率约束条件下，基于G-RSMA的波束成形向量和速率分配联合设计的多小区加权和速率最大化的优化问题。该加权和速率最大化问题是一个非凸的二次约束优化问题，求解复杂度高。本文利用加权最小均方误差算法将加权和速率问题重新表述为等价的特殊形式的加权均方误差问题，进而通过低复杂度的交替优化算法获得局部最优解。仿真结果表明，广义速率分割多址技术中通用数据流的应用有效地减少了干扰，与其他技术相比获得了更高的和速率，提高了系统的频谱利用率。
　　其次，研究了多小区MISO系统的能量效率和频谱效率的权衡，本文提出了基于G-RSMA的波束形成向量和通用速率分配的联合设计的方法。本文所构建的能量和频谱效率最大化的优化问题是一个多目标优化问题，并且该问题是一个非凸二次约束优化问题。本文将所构建的多目标优化问题转化为单目标优化问题来研究能量效率与频谱效率的权衡，通过进一步研究能量效率与频谱效率之间的拟凸关系，即在任意可达的频谱效率区域内，都能得到最大的能量效率。在此基础上，本文采用了一种基于连续凸近似的高效迭代算法对优化问题进行求解。仿真结果验证了该算法的有效性，揭示了在不同参数设置下能量效率和频谱效率的权衡。