全双工技术是指在同一时间同一频段上实现收发双工的技术。全双工技术能有效提高频谱利用效率和系统吞吐量,是第五代移动通信系统的关键技术之一。针对全双工技术中存在的发端对收端的自干扰问题的研究,是目前学术界的热点。本论文围绕全双工系统的关键技术展开,研究了全双工系统的自干扰抵消技术、I/Q不平衡估计与补偿技术、以及全双工双向中继系统等三个方面,具体内容如下:(1)在总结现有全双工系统自干扰抵消技术的基础上,结合已有的“三同信道”工作基础,提出一种基于多级级联结构的自干扰抵消方法。该方法在现有环形器隔离、射频自干扰抵消和基带抵消的基础上增加了中频自干扰抵消环节,具有结构简单、易于实现的特点,其中,重点研究并设计了中频抵消的硬件电路,给出了中频抵消电路和多级级联抵消结构的测试结果。结果表明,中频抵消结构可进一步抑制全双工系统中的自干扰信号。(2)针对存在I/Q不平衡的全双工系统,提出了一种收发I/Q不平衡参数估计与补偿算法。该算法在常规的收发I/Q不平衡信号模型基础上,通过引入变量代换,建立最大似然的信号模型,对收端、发端的I/Q不平衡参数进行联合估计与分离,再进行分别补偿。该算法优势在于:1)充分利用全双工系统中固有的自干扰信号进行I/Q不平衡参数估计,变废为宝;2)可分别获得收端与发端的I/Q不平衡参数,有利于进行发送前的预补偿和接收后的校正;3)分别对系统收端和发端的I/Q不平衡进行补偿,从系统外部来看,该系统的发端和收端都不存在I/Q不平衡问题;4)I/Q不平衡参数的估计与补偿的运算过程简单,有利于算法实现。结果表明,该算法不仅能准确估计I/Q不平衡参数,而且能有效补偿收发两端的I/Q不平衡,改善信号整体质量,提升系统性能。(3)针对存在I/Q不平衡的全双工双向OFDM中继系统,研究了存在I/Q不平衡和残余自干扰(RSI)时系统中断性能,获得了其中断概率的闭式表达式,分析发现I/Q不平衡和RSI是影响中断率的两大主要因素。增加I/Q不平衡或提高RSI的功率,均会导致系统的中断性能恶化,仿真结果验证了理论分析的正确性。仿真结果还表明,在信噪比较高时,减小RSI已经不能优化全双工双向OFDM中继系统的中断性能,I/Q不平衡成为限制整个系统性能的瓶颈,需要进行I/Q不平衡的校正以改善系统性能。