随着社会经济的发展,以及Internet的飞速普及,人们对数据通信,尤其是对于能提供随时随地方便联系的无线通信的传输速率和传输质量提出了越来越高的要求。移动电信网从第一代发展到第三代,计算机无线网络领域用于无线局域网(WLAN)的WiFi技术的成熟,以及用于无线城域网(WMAN)最后一公里的WiMAX技术的火热研究,都表明无线通信在近十年以及未来经历了也将一直要经历的飞速发展。众所周知,无线通信的信道相对复杂,带宽限制、传播损耗、时变特性、噪声、干扰、多径衰落这些信道特点都制约着无线通信达到高的传输速率和可靠的通信性能。在如此恶劣的信道环境下,需要新一代无线通信技术来支持通信过程。本文主要研究无线频选衰落信道下的自适应处理技术。在无线高速传输系统中,频率选择性会引起符号间干扰(ISI),严重的ISI将导致通信无法进行。抵抗ISI的传统技术是均衡技术,有效自适应均衡器的设计是无线系统接收机中的重要内容。在超高速系统中,自适应均衡器接收机非常复杂。目前认为解决信道频率选择性问题的最好的技术是正交频分复用(OFDM)技术。在宽带无线接入领域采用OFDM技术是发展的趋势,OFDM将成为未来移动通信系统的关键技术。在WLAN和WMAN的空中接口标准IEEE802.11和IEEE802.16都采用OFDM技术。通过研究传统均衡技术,针对高速系统,本文提出了一种有效的判决反馈均衡器(DFE)实现方案。和传统的DFE相比,提出的DFE考虑了高速信道的稀疏特性,通过对抽头系数的分组和清零来解决这类信道下的噪声积累问题。在降低均衡器实现复杂度的同时,可获得较好的性能。本文首先分析了传统DFE的输出会受抽头噪声积累的影响,这也是提出的DFE可提高系统性能的理论依据。并通过仿真结果表明提出的DFE可以用低的计算复杂度获得好的性能,可适用于高速系统,如高清晰度电视(HDTV)和宽带移动通信。OFDM结合多输入多输出(MIMO)技术是目前的研究重点之重。MIMO技术是近年来无线通信技术上的一个重大突破。它综合了分集技术和现代信号处理技术,可以得到好的频谱利用率。它的主要理论基础是在复杂的环境下,多径信道中不同的路径彼此不相关。MIMO-OFDM具有比单纯的OFDM、单纯的MIMO更强的抗干扰能力、更高的系统容量。在无线通信的频选衰落信道下,MIMO-OFDM可以赢得高数据速率和大系统容量而不必增加额外的功率或者带宽。而自适应调制技术是通过调整信号的发射参数,如调制阶数,发射功率大小,编码率来自适应跟踪信道的变化,可用于在固定和无线通信中,来提高传输速率和频谱利用率。WiMAX系统中就支持自适应调制分配技术。传统的自适应分配方法是以最大化系统容量为目标时,采用注水法,自适应给每个子信道分配功率和比特流。本文考虑实际通信系统的要求,在通信上层传输速率和误码率要求一定的情况下,以最小化发射功率为目标,在发射端根据子信道传输特性自适应给每个空间子信道分配传输比特,发射功率。这样既能够充分满足用户对带宽和服务质量的需求,又能够最大限度的利用MIMO-OFDM系统的空间复用增益,获得了好的频谱效率,节省了发射功率。在分配过程中,首先采用拉格朗日直接求解的方法,得到各个子信道的分配比特和功率,计算简单直接。在求解过程中因分配的比特数取整会引入误差,可应用直接比较法达到目标传输速率。随后提出自适应迭代的实现方法来解决比特取整误差问题,在求解的同时,给出了理论证明,提出的算法具有计算复杂度低的优点,并可以小的发射功率实现系统的性能要求。在无线移动通信系统中,手持设备受体积限制,一般采用单天线,基站设备采用多天线,也就是单输入多输出(SIMO)或多输入单输出(MISO)系统。在这个系统中,智能天线,也就是自适应波束形成受到了广泛的研究。OFDM技术可以从根本上解决宽带无线通信存在的多径衰落和时延扩展对系统性能的影响,而智能天线技术被认为是解决同信道干扰(CCI)的重要技术。当系统存在干扰甚至强干扰时,使用智能天线技术能够抑制干扰,降低通信系统误码率,提高性能,扩大系统容量。因此,在宽带无线通信系统中,可以把OFDM技术和智能天线技术结合起来实现高速可靠的数据传输。对于一个智能天线-OFDM系统,其关键技术是波束形成,也就是接收端信号的空间处理。这可以分别在时域和频域处理,即在傅立叶变换(FFT)之前和之后进行加权,称为Pre-FFT波束形成和Post-FFT波束形成。波束形成算法可以基于不同的准则进行。本文研究了在两种波束形成系统中采用最小均方误差(MMSE)方法,RLS和最小误比特率(MBER)的方法的系统性能,证明了基于MBER的滤波方法比MMSE可以得到更低的系统误码率。文中首先提出了一种基于MBER准则的Post-FFT频域自适应波束形成器,该技术在波束形成算法中,直接以最小化误比特率(BER)为约束优化求解权向量。最终应用此算法可以在解决宽带无线通信同信道干扰的同时,获得更好的系统误码率性能。与同样条件下,和使用MMSE准则的自适应波束形成器相比,能更准确的跟踪期望用户,系统误码率也更低。为了降低计算复杂度,随后本文研究了Pre-FFT OFDM系统中的RLS和MBER阵列接收机。自适应RLS波束形成器充分利用OFDM系统的导频信号的,能够快速收敛,在时变信道下有较好的性能。最后把MBER优化准则应用于提出的利用导频信号的Pre-FFT OFDM的系统,在保证收敛性的前提下,获得了更好的系统BER性能。