伴随着无线通信业务的蓬勃发展,人们对数据速率、网络覆盖范围和可靠性等通信的性能参数提出了更高的要求,而这也对无线频谱资源的利用提出了新的挑战。认知无线电技术通过频谱监测寻找可被利用的频谱空洞,实现认知用户的动态频谱接入,提高了传统固定频谱分配方案下的频谱效率。将MIMO和协作中继与认知无线电技术相结合,认知用户通过协助授权通信,获得接入授权频谱通信的机会,且不对授权用户造成干扰。这种MIMO-CCRN系统由于能够大幅度提高频谱利用率,成为通信领域一大新的研究热点。本论文对MIMO-CCRN中的空间信号处理及相关传输技术进行了研究,主要贡献有:第一、针对MIMO-CCRN系统,设计一种综合利用干扰消除和多天线信号处理手段的协作传输机制。选择部分认知用户作为中继,以时分复用的方式协助授权用户完成通信;作为回报,认知用户获得传输机会。所提策略在第二时隙采用干扰消除,利用已知信息消除干扰信息,实现授权通信与认知通信的并发传输。在两个时隙均采用迫零波束成形算法,使期望信号和干扰信号位于相互正交的子空间,实现空域资源的有效利用。并利用匹配滤波,实现尽可能好的授权通信性能。此外,分别从时隙划分和功率控制两个角度,设计相应的自适应算法,消除多跳链路中的瓶颈效应,提升授权信号的端到端传输性能。仿真结果表明,该方法能够明显提升系统频谱效率,实现授权用户与认知用户的双赢。第二、在满足各用户服务质量要求的前提下,以最小化系统的总发射功率为目标,提出了一种MIMO-CCRN系统中,联合波束成形和功率控制的优化算法。首先,利用拉格朗日松弛定理,转换原非凸优化问题为等效的半正定优化问题,通过内点法求解。其后,引入广义特征值问题,对结果进行迭代优化。所提策略能够消除并发传输间的相互干扰,提高频谱效率。文末,对本论文的研究工作进行总结,并梳理下一步研究方向。