协同传输技术是目前通信研究领域中最热门的研究课题之一,被认为是无线通信领域继多天线技术之后的另一个重大进步,并且很有可能成为未来无线通信系统的核心技术。传统的基于分层的协同传输设计受到无线通信系统分层结构的严重制约,无法充分利用用户协作带来的分集增益。因此,跨层设计对于协同传输技术而言尤为重要。但是由于中继节点的引入,网络拓扑结构更为复杂多样,无线链路大量增加,给跨层设计带来了巨大挑战。本文主要研究基于跨层设计的协同传输技术,探讨了协同系统的跨层设计准则,并提出了针对未来无线系统多媒体单播业务和多播业务的低复杂度协同传输方案。通过理论分析与计算机仿真,验证了所提方案的有效性和可行性。本文首先讨论了双向中继蜂窝网络中的能量效率最优化设计问题,研究了蜂窝网络中上下行业务不对称,网络节点能量约束不同,以及用户、中继位置不固定等因素对协同传输能量效率的影响,利用凸优化方法,推导出了最大化能效的传输速率,以及最优中继位置,并提出了一种联合上下行中继选择方案,将理论分析结果应用在实际系统。所提的方案充分考虑了应用层业务特点和硬件层能量需求,相比于文献中的选择算法能够有效的提高系统的能效,并且操作简单,可以很好的在未来蜂窝移动通信系统中应用。其次,本文考虑将链路自适应与中继选择进行联合设计。针对传统的分层设计无法充分利用信道时变和多中继所带来的时间和空间分集增益的问题,本文提出一种联合中继选择和链路自适应方案以及相应的反馈机制,使得链路自适应可以有效的利用中继选择所创造的好的信道环境,从理论上分析了所提方案的吞吐量性能以及信令开销,并对吞吐量性能进行了仿真。理论分析和仿真结果同时表明,本文所提出的方案可以有效提高吞吐量,同时减小系统信令开销。然后,本文研究了多个用户通过协作接收多播业务的场景,设计了一种领导用户负责(LiC)多播策略,将混合自动重传(HARQ)与应用层网络编码技术相结合,使用户之间共享接收的信息,极大的减少了基站的多播负载,同时可以有效提高多播系统的吞吐量。为了使所提的LiC框架在实际系统中应用,本文还考虑了吞吐量-时延折中,网络编码机会,重传调度等实际问题。最后,本文研究了多播场景下的中继选择问题。这是目前国内外的研究中,首次对该问题进行系统描述和研究。多播场景下中继选择面临的最大问题是如何利用有限反馈信息及时地来选出最优中继。本文提出了两种带有限反馈的中继选择方案。其中,基于Best Harmonic Mean的方案,利用终端到每个中继的多接入信道,所有终端同时反馈局部CSI,仅需O(L)次反馈,而且可以达到L-ε的分集增益,其中L为系统中继数量,ε为一个任意小的正实数。通过全文的研究可以看出：基于跨层设计的协同传输技术能够充分考虑不同协议层的特点,有效利用不同用户节点的天线和信道以获取分集增益,从而显著改善系统性能,提高系统的能量效率以及传输速率。