随着4G及未来无线通信的应用和研究,干扰问题作为系统整体容量进一步提升的关键制约因素日益受到关注,而传统的干扰协调等方法并没有很好的解决这一问题。干扰对齐作为一种新的干扰处理方法从一出现就被认为是有效解决多用户干扰的重要途径。另一方面,作为未来移动通信网络的重要特征之一,中继的引入可以有效增强小区覆盖,提高小区边缘用户信噪比。但是中继同时带来干扰处理上的更大挑战。本论文研究中继系统的干扰对齐方法。对于典型的中继网络进行系统自由度的求解,并给出适用于中继网络的收发算法。本文通过引入虚拟瞬时中继的思想,针对多用户中继系统和多小区中继系统进行了研究,并结合干扰中和技术,给出了两个系统应用干扰对齐技术的可行方案和系统自由度限。与其他无中继协作的干扰对齐方案比较,在多用户场景下,当用户数为3时,系统自由度最大可以提高25%。在多小区场景中,当用户数小于16时系统自由度也有一定的提升。接下来,在上述中继系统容量问题的研究基础上,实用化的收发算法也是本文的重要研究内容。对于中继系统来说,需要对发送端、中继、接收端进行联合设计,这给干扰对齐收发算法的设计带来了新的挑战。本论文研究了干扰对齐的收发算法设计问题,以多用户中继网络为例,给出了适用的收发算法,并对发送算法进行了系统和速率的优化。仿真结果证明了干扰对齐算法和发送矩阵优化算法的有效性。