认知无线电可望解决无线通信快速发展与可用频谱资源日益紧缺的矛盾,因而备受关注,已成为当前无线通信领域的研究热点。认知无线电系统包括授权用户(称为主用户)和未授权用户(称为次用户或认知用户)。认知无线电技术允许未授权的次用户使用空闲的授权频段(即分配给授权主用户的频段),从而使得主次用户能够动态共享无线频谱资源。认知无线电需要解决两个基本问题：一是频谱感知,即研究精确的频谱感知算法,以从授权频段中可靠地检测出尽可能多的可用频谱空洞；二是认知用户通信,即设计高效的认知用户通信机制,以充分利用已检测到的频谱空洞进行通信。本论文针对上述两个基本问题,提出了相应的解决方案,并将二者进行有机结合,深入研究了认知无线电系统中的协作中继技术。本论文的主要工作和创新成果如下：首先,研究基于协作中继的频谱感知技术,提出了一种新的基于选择式中继的协作频谱感知方案,在保证主用户服务质量不受影响的前提条件下,所提方案无需专用的无线电频谱资源用于上报初始频谱感知结果至融合中心,有助于协作频谱感知技术从理论走向实用。通过联合考虑协作频谱感知过程中的主用户信号检测与初始感知结果报告两个阶段,深入研究了基于选择式中继的协作频谱感知方案的检测性能,从理论上证明了在给定目标检测概率的约束条件下,存在唯一的最优主用户信号检测开销以最小化虚警概率。其次,研究认知用户通信中的协作中继技术,提出了一种基于最佳协作中继选择的认知用户通信方案,理论分析了瑞利衰落环境下传统非协作认知通信和基于最佳中继的认知协作通信方案的中断概率。研究发现在给定目标主用户中断概率的前提下,认知用户通信的中断概率在高信噪比区域出现了“平台效应”,但所提出的认知协作通信方案的中断概率平台明显低于传统非协作认知通信方案。此外,将传统分集增益定义式推广到存在主次用户干扰的认知无线电环境中,提出了一种新的分集增益定义,为分析认知无线电通信的分集增益性能提供理论依据。理论分析表明在给定主用户中断概率一定的条件下,所提出的认知协作通信方案仍获得了满分集度。然后,研究认知协作中继网络中的感知—通信折中,提出了“固定融合频谱感知—最佳中继数据传输”(FFSS-BRDT, Fixed Fusion Spectrum Sensing and Best Relay Data Transmission)和“选择融合频谱感知—最佳中继数据传输”(SFSS-BRDT, Selective Fusion Spectrum Sensing and Best Relay Data Transmission)两种认知协作中继方案,深入研究了频谱感知阶段与认知用户通信阶段之间的资源分配与优化。在保证主用户服务质量的条件下,理论分析了所提出的FFSS-BRDT和SFSS-BRDT方案的频谱空洞利用率性能,结果表明通过联合优化频谱感知与认知用户通信之间的资源分配,可以显著提高FFSS-BRDT和SFSS-BRDT方案的频谱空洞利用率。最后,研究认知协作中继通信中的分集复用折中,提出了新的分集复用折中定义式,为认知无线电通信中的分集复用折中分析奠定了理论基础。由于传统分集增益和复用增益定义式没有考虑干扰因素,并不适合直接用于具有主次用户干扰的认知无线电通信场景,为此提出了新的分集增益和复用增益定义式。在保证主用户服务质量不受影响的前提下,研究了一种基于选择协作的认知用户通信机制,其中考虑了两种传输模式,即中继分集传输模式和非中继直接传输模式。在不完美频谱感知的情况下,利用所提出的分集增益和复用增益定义式,理论分析了认知用户通信的分集复用折中性能。