近年来,随着全球通信技术的飞速发展,通信系统中的用户数与日俱增,通信环境的复杂度也越来越高,随之带来的问题就是频谱资源日趋匮乏。那么如何提高有限的频谱资源的利用率,以及如何提高系统的传输速率、可靠性和服务质量成为未来无线通信一个重要的研究课题。干扰一直是无线通信中不可避免的问题,在多用户系统中,用户间的干扰成为限制系统容量的主要因素。传统的干扰管理方法有,把干扰当成噪声、干扰抵消和信道正交化等等,但是这些方法各自都存在着缺陷。干扰对齐(Interference Alignment,IA)技术是一种抗干扰的新技术,由于其能够成倍地提高系统容量,因此逐渐受到人们的广泛关注和深入研究。干扰对齐技术的提出为高效利用频谱资源开拓了全新的面貌,成为近年来无线通信领域的研究热点。通信系统中也会经常利用到中继技术,运用此技术后,不仅可以延长通信的距离,而且可以改善信号的传输质量,已经成为当前无线通信的关键技术之一。本文分别研究了MIMO-OFDM系统下空频联合干扰对齐算法中的子载波分组处理方案和MIMO双向中继网络下基于特征子矩阵的干扰对齐优化算法。本文的主要工作如下:首先,为了弥补传统一维域干扰对齐在空间上波束赋形方案的不足,对MIMO-OFDM系统中的空频联合干扰对齐算法进行研究,给出一种子载波分组处理的优化方案。该方案有效解决了相邻子载波间引起的邻道干扰问题,并为每个线性独立的对齐组分别设计优化的预编码,且同时执行干扰对齐运算。仿真结果表明该优化方案运用到干扰对齐算法中,不仅提高了系统的容量,而且降低了算法的复杂度。其次,针对传统中继迫零算法已无法解决双向中继非对称网络中的干扰问题,对MIMO双向中继网络系统中的干扰对齐算法进行研究,给出一种基于特征子矩阵的干扰对齐优化算法。该算法用于解决用户对间数据流的非对称性,利用特征子矩阵准则,设计干扰对齐优化算法及可行性方案,综合考虑系统中所有用户对的性能。仿真结果证明该算法不仅优化了整个系统的性能,而且提高了系统传输速率和容量。