近年来,随着数字多媒体业务的发展以及智能终端设备的普及,人们对无线通信技术的传输速率和信号带宽的要求急剧增长,传统的无线通信技术已经逐渐不能满足人们的需求。60GHz的毫米波通信系统以其丰富的频谱资源、超高的传输速率、较强的抗干扰能力和高安全性等诸多优点,成为近年来的研究热点。本文主要研究60GHz毫米波通信系统中的均衡技术,包括线性信道和非线性信道的均衡。鉴于文中涉及的迫零算法和不动点算法需要知道信道特性,因此本文还讨论了相关的信道估计算法。本文首先简要介绍毫米波通信系统。针对毫米波通信系统的通用信道模型,分别从大尺度特性、小尺度特性两个方面予以说明,包括路径损耗和阴影衰落等。接着详细地描述IEEE 802.11ad标准下的信道特性和帧结构。然后,研究了线性信道的均衡。从码间干扰的产生原因引出均衡技术,简要说明均衡技术的分类。从维纳滤波器出发,推导时域迫零均衡器的抽头系数计算方法,以LMS准则为基础推导自适应均衡器。接着根据IEEE 802.11ad标准中CM1和CM2模式下信道的特点,将两者分别等效为简单的准静态莱斯信道和瑞利信道。最后,通过仿真分析两种均衡算法在两种模式的信道下的性能。仿真结果表明,两种均衡方法都可以取得良好的效果,且LMS自适应均衡算法略优于迫零均衡算法。随后,考虑到非线性功率放大器的影响,研究非线性信道的均衡问题。首先简要介绍非线性系统的信道模型,主要包括Volterra模型、Wiener模型、Hammerstein模型和有记忆多项式模型等。接着将对非线性信道的均衡问题抽象为解不动点方程的问题,通过逐次逼近法得到其解。随后将基于LMS准则的自适应算法推广到非线性信道的情形。最后,选取Wiener模型和Hammerstein模型为例仿真两种均衡算法的性能。仿真结果表明,相比于迫零均衡和一般的LMS自适应均衡,不动点算法和修正的LMS算法对系统传输性能有明显的提升。最后,鉴于迫零均衡和不动点均衡都需要知道信道特性,因此讨论信道估计的问题。利用格雷互补序列的自相关特性做线性信道的估计,并以Wiener模型和Hammerstein模型为例推导最小二乘法在非线性信道估计中的应用。仿真结果表明,基于格雷互补序列的线性信道估计,能够取得与理想信道估计接近的性能。而对于非线性信道来说,基于最小二乘的估计方法,在Hammerstein模型下的性能明显优于Wiener模型。在此基础上,仿真研究均衡算法对毫米波系统发送端功率放大器非线性的作用。结果表明,不动点算法和修正的LMS自适应算法能够有效地降低功率放大器非线性对毫米波通信系统传输性能的不利影响。