随着数据速率和网络容量的增大,用户对第五代移动通信系统（the Fifth Generation,5G）中的业务传输提出了更高的要求。同时,广播业务占用每一个单播业务的时频资源会造成资源的浪费,所以如何实现广播、组播与单播的多业务并行传输成为了一个非常重要的研究课题。速率分拆技术（rate splitting,RS）将信息进行拆分,通过编码后联合传输,这为研究多业务协作传输提供了借鉴。本文基于混合多业务协作传输,主要研究以下内容:第一、研究了基于RS思想的多业务协作传输方案。该方案将单播信息分为公有信息与私有信息,公有信息与广播信息组成超级公有信息,与单播的私有信息联合编码后传输给用户。在接收端,采用连续干扰删除技术,先解码超级公有信息,解码后将其删除,再解码私有信息。为了实现5G中的多业务传输,提出一种混合预编码的多业务传输方案,经过仿真,证明了基于RS思想的多业务协作传输方案性能优于传统的多业务协作传输方案。第二、提出了天线阵列动态分割的思想,并基于此思想提出固定波束覆盖方案。在研究多业务协作传输方案在低轨卫星场景下的应用时,整个天线阵列形成波束会造成星下用户的链路余量过大,而边缘用户没有链路余量。为了解决这个问题,提出了动态分割天线阵列的思想,即将天线阵列不均等分割成若干个子阵列,进而对阵列的功率进行合理地分配,小阵列形成的波束覆盖离卫星较近的用户,较大的阵列形成的波束覆盖离卫星较远的用户。基于这个思想,在满足链路预算的条件下,设计波束覆盖的角度、波束个数、子阵列大小等。第三、将设计的波束覆盖方案应用于低轨卫星多业务协作传输方案中。分析了低轨卫星中基于RS技术的多业务协作传输,并且将波束覆盖方案与之结合,提出了一种低轨卫星中的多业务传输方案,并对该方案进行了仿真,验证了其性能的优越性。