作为抵抗无线衰落损伤、提高通信系统可靠性和增加系统传输速率的一种有效手段,协作(Cooperative)通信技术无疑是近几年学术界研究的热点之一。在无线环境中,单天线便携式移动节点可以协调地共享其它节点的资源,在源节点与目的节点之间构建多条通信链路,形成一个虚拟的MIMO系统,从而为小型移动设备的MIMO实用化提供了一条崭新的出路。鉴于协作通信技术将会发展成为未来无线通信领域广泛采用的传输技术之一。因此,在投入实际应用之前则非常有必要详尽地探讨和评估其各方面性能。本论文首先追踪报道了国内外与协作通信有关的研究进展。关于协作通信理论,迄今虽已取得较为丰富的研究成果,但还存在明显不足。一方面,已有工作大多是局限在Rayleigh信道环境下研究的。事实上,Nakagami衰落信道模型尽管相对复杂,但是它能够代表更为广泛的实际信道情形。另一方面,协作通信技术尽管能够引入更多的分集增益,但是从吞吐量角度看其并非是最佳选择。而跨层设计思想可以很好地弥补这一缺陷。然而目前针对协作通信的跨层设计的研究却很少。为此,在物理层下,我们主要研究Nakagami衰落信道环境下的并行、串行协作系统性能;在跨层设计方面,针对不同的网络结构和中继转发方式,我们提出了相应的跨层方案,并分析其吞吐量性能。具体研究工作如下:物理层下的研究工作主要包括:在Nakagami衰落环境下,研究了带有机会中继转发的并行协作通信系统的性能。每个中继节点只接收来自源节点的信息,中继节点采用前向译码中继转发方式(DF),目的节点分别采用最大比合并(MRC)与选择合并(SC)接收处理技术。推导出了精确的符号错误概率(SER)与中断概率(OP)的数学表达式。依据提供的理论公式,讨论了并行协作通信系统所能获得的分集增益。仿真分析了这两种接收合并技术下的并行协作系统性能,并与基于重复发送的并行协作通信系统进行对比。结果显示带有机会中继的并行协作通信系统性能远远好于基于重复发送的并行协作通信系统的性能。此外,基于统计信道信息,对选择合并接收方式的并行协作通信系统给出了最优功率分配方案。在Nakagami衰落环境下,研究了串行协作通信系统下的性能。每个接收节点既可以接收源节点信息,又可以接收部分或全部中继节点广播的信息。根据每个接收节点是否准确获悉前面中继节点的DF状态,分别分析了A-MRC、B-MRC、B-EGC三种不同接收方式下的串行协作系统性能。针对A-MRC接收方式下的串行协作系统,我们给出了精确的SER表达式和高信噪比下的渐近结果,同时又分析了B-MRC和B-EGC和接收方式下串行协作通信系统的渐近SER性能。根据给出的SER渐近表达式,深入地分析了这三种接收方式下的分集增益。结果表示:B-MRC接收方式下的性能最差,而B-EGC与A-MRC接收方式能获得一致的分集增益,且B-EGC接收方式更易于实现。物理层与数据链路层的跨层设计方式下的研究工作主要包括:在Rayleigh衰落环境和基于前向放大中继方式(AF)的并行协作框架下,提出了新的跨层设计方案。根据中继节点AF处理方式与对最优中继节点选择方式的不同,提出了四种备选方案,并且分别给出了平均吞吐量的数学表达式。讨论了系统各参数对平均吞吐量的影响,全面地对比了这四种方案的优缺点。在Rayleigh衰落环境和基于DF中继转发方式的并行协作框架下,提出了一种基于选择中继重传(SN-RT)的跨层设计方案。在重传过程,根据中继节点与目的节点间的瞬时信道状态选择一个最佳的中继节点,并联合源节点以Alamouti编码方式进行重传操作。通过与已有的固定中继重传(FN-RT)的跨层设计方案进行对比,发现SN-RT跨层方案更加充分地利用了网络的中继节点,进而显著地提高了系统的平均吞吐量。在Nakagami衰落环境下,设计出了一种新颖的多跳通信下的跨层设计方案。首先考虑单中继跨层设计方案,即允许每一跳的节点间可以重传操作,直到接收节点获取无差错的数据包后,信息传输方可进行下一跳。接下来将这一思想推广到基于多中继跨层设计情形,提出了随机选择单中继传输和随机选择两中继传输方案。对不同的跨层设计情形分别给出了平均吞吐量的数学表达式。综上所述,本文针对物理层下的协作通信系统进行了详细的性能分析,在跨层设计方面提出了新的设计方案,提高了协作通信系统的吞吐量性能。这些研究成果可以为将来进一步研究工作和实际应用提供丰富的理论依据。并且,本文所考虑的协作模型和设计方案具有广阔的应用前景,可以应用在蜂窝网络、无线局域网、Ad-Hoc网络、传感器网络和WiMAX网络中。