正交频分复用(OFDM)和单载波频域均衡(SC-FDE)是下一代无线移动通信中常用的两项关键技术,在LTE中,分别采用正交频分多址(OFDMA)和单载波频分多址(SC-FDMA)做为下行和上行的物理层多址接入方式。多输入多输出(MIMO)通过在发送端和接收端分别设置多根发送和接收天线,可以显著提高信道容量,也成为LTE中的一项必选技术。通过MIMO技术与OFDM/SC-FDE技术结合,可以使得MIMO技术更方便的应用于频率选择性衰落的多径信道中。中继技术可以扩展覆盖范围,消除覆盖盲区,提高接收信号质量,成为下一代移动通信中的备选技术。通过中继端与源端信息的共享或协作处理,利用空间信道的独立性充分发掘空间分集增益,为MIMO技术的实际应用提供了一种有效的实现手段。OFDM/SC-FDE采用循环前缀(CP)的传输方式,可以有效的对抗多径干扰,并通过频域均衡的处理方式补偿信道失真的影响。但对于SC-FDE,需要更复杂的均衡处理以发掘多径分集增益。本文对基于软干扰消除的Turbo频域均衡算法进行了分析,通过对符号间干扰(ISI)的软估计信息进行重构和软干扰消除,以及基于MMSE准则的频域均衡算法,利用均衡器和译码器的迭代处理有效对抗多径干扰。传统均衡算法效果的好坏很大程度上取决于信道估计效果的好坏,且二者缺乏信息的交互,本文在均衡的过程中考虑信道估计误差的影响,并将均衡结果反馈给信道估计器修正信道估计以进一步改善均衡器的效果,利用信道估计和均衡过程的双重收敛发掘系统的潜在系能。对于终端布置多天线受限的情况,针对单天线配置的终端,研究了在频率选择性衰落信道中依靠分布式中继协作SFBC/STBC的方案,分析了信号发送协议模型、导频数据复用结构、中继转发算法、信道估计算法、对角化SFBC/STBC解码、Turbo频域均衡算法等。针对分布式中继协作SFBC/STBC协议相对传统SFBC/STBC需要额外中继转发时隙带来的频谱利用率的降低,结合系统内干扰情况,研究了无CP传输情况下的CP信号的重构及恢复方法。针对中继端需要协助源端完成SFBC/STBC编码,在转发信号的过程中需要经历DFT/IDFT的过程,利用DFT的性质,研究了从时域内完成SFBC/STBC编码的有效实现方法,降低了复杂度和处理时延。针对传统ARQ的分集性能易受到慢衰落的信道的影响,研究了采用中继协作ARQ的方案及均衡方法。分析了分别采用DF和AF中继的信号发送协议,为了充分发掘空间分集增益,将多次接收的重传信号视为虚拟接收天线阵列信号,通过MIMO系统的Turbo频域均衡算法有效对抗多天线干扰和多径干扰,针对AF模式下引入的有色噪声影响对均衡器的实现做了优化,并进一步分析了基于逐频点处理的频域均衡算法的实现。对于虚拟接收天线阵列信号的处理方式中目的端的接收信号和信道频域响应(CFR)的存储单元会随着重传次数增加而线性增长的问题,提出了基于递归处理的频域均衡解决方法,降低了实现的复杂度。