伴随着移动通信行业迅猛发展,为满足小区吞吐量要求,改善系统覆盖,优化小区边缘用户信道质量,中继技术(Relay)被列为LTE-A (Long Term Evolution-Advanced, LTE-A)的一项重要候选技术。因此,关于中继的理论研究引起了国内外学者的广泛关注,然而当前针对中继的研究文献主要都是基于完整的信道状态信息所进行的,可是在中继的现实部署中,信道状态信息往往是非理想的,因此研究非理想中继系统下中继性能具有现实意义。本文围绕非理想信道环境下中继系统进行讨论,对中继系统信道估计误差建模,双向中继的收发机设计,单流和多流的中继系统联合预编码进行了分析,主要工作可概括为以下四个方面：(1)中继系统信道估计误差建模。在中继系统的现实部署中,总是会由于信道估计误差,量化误差,反馈延迟等因素的存在,使得接收端和发送端的信道状态信息不理想。然而,对于中继的现实应用来说,获悉非理想信道因素的各项统计信息对于后续的研究具有重大的意义,为此,本文对中继系统的信道估计误差做了初步的建模研究。基于LTE链路级仿真平台,本文综合考虑了发送端信噪比(Signal-to-Noise Ratio, SNR).用户终端移动速度和导频插入间隔对信道估计误差的影响,通过Matlab软件做了大量的数字仿真工作,首先指出了传统的估计误差复高斯假设的不合理性,随后本文选择将估计误差的幅度和相位分为两部分研究,提出了以伽马分布(Gamma Distribution)来拟合误差幅度概率密度分布,以均匀分布来拟合误差相位信息。基于上面的研究,本文通过将数字仿真、软件工具拟合方法相结合,验证了提出模型的正确性。(2)双向中继(Two-Way Relay)系统信号检测算法研究。双向中继由于其独有的高频谱利用率的特性,一直以来都是中继理论研究的一个重要分支。本文在假设的非理想信道环境下,对双向中继可变增益的收发机及其对应的信号检测算法做了深入的研究。首先,本文提出了一种全新的基于训练序列的可变增益系统收发结构,通过两个源节点和中继节点在训练阶段发送正交导频信息完成信道状态信息的获得,用于计算可变增益,使之服务于数据发送阶段,完成动态发送前传。同时,本文还针对终端分别采用最大似然估计器和线性最小均方误差估计器的信号检测形式做了理论推导,并指出了不同接收机的估计误差性能。在仿真部分,本文通过Matlab仿真比较了不同接收机的估计误差特点,并从绿色节能的角度指出双向可变增益中继系统的巨大潜能。(3)单数据流中继系统联合预编码和解调器设计。预编码技术一直是现代无线通信研究的一个重要领域,源节点根据反馈的信道信息,设计预编码矩阵完成功率的动态分配过程,使系统吞吐量得到优化。中继预编码领域虽然经典文献众多,但是绝大部分工作都是基于完整信道状态信息所展开的,现实部署效果往往不佳。因此,本文考虑在非理想因素情景下,设计了一种高效低复杂度的源-中继联合预编码和解调结构,使得接收端的平均信噪比最大化。Matlab的数字仿真结果证明了采用本文提出的预编码结构可以实现高性能增益,同时本文还对信道相关系数对系统性能的影响做了初步讨论,并从仿真中予以了证实。(4)多数据流中继系统联合预编码和解调器设计。在第三点的工作基础之上,本部分对其进行了扩展,使本文的联合预编码和解调结构延伸到了多数据流的体系中。针对源节点传输多数据流的场景,设计了一种源-中继联合预编码结构,目标同样是优化接收端的平均信噪比。本文首先推导了完整信道状态信息下的设计形式,随后对部分信道状态信息的场景做了数学上的缩放,从而可以直接应用完整信道信息下的设计结构。仿真结果证明了采用本文提出的预编码结构的优良性能,并验证了在非理想环境下,本文提出的结构仍具有良好的鲁棒性。以上是本文主要的研究点和创新点,相信这些研究成果势必会为非理想中继的进一步深入研究提供重要的参考和依据。