现如今频段频谱资源越来越稀缺,60GHz毫米波无线通信系统由于其良好的国际通过性,频段使用免许可申请,同时还具有Gbps的高速传播速率以及非常优越的抗干扰性能和安全方面独特的优势,成为学术界和产业界越来越关注的热点技术之一。60GHz信号具有高衰减传播特性,在60GHz通信系统中,功率放大器需要将已调制的射频信号放大到满足要求的电平值,这样才能确保接收机端的信噪比大到满足要求。但是,功放的工作点通常处于饱和点附近的非线性区域,给系统带来严重的非线性失真,导致系统性能恶化。因此,为了补偿功率放大器的非线性失真,对功率放大器的非线性参数进行估计就显得尤为重要。本论文的创新点在于首次将经典的粒子群优化算法(Particle Swarm Optimization,PSO)及其改进算法应用于60GHz毫米波无线通信系统的非线性参数估计问题,在分析60GHz系统中的单径高斯信道模型以及功放的非线性模型之后对系统模型进行抽象得到适应度函数,再结合PSO算法展开一系列非线性估计研究。针对60GHz毫米波无线通信系统中功率放大器的非线性参数估计提供了一种新的解决思路。本文首先基于标准的PSO算法对60GHz信道下的功率放大器进行非线性参数估计流程设计并进行仿真分析,PSO算法的原理是先随机生成一群粒子代表鸟群的初始状态,整个群体通过自我认知学习并且向整个群体获取有用的信息来判断下一时刻的飞行方向和飞行速度,然后再重新调整自己的最优位置,重新找寻整个群体中的最优位置,继续追逐这个最优值,直到所有粒子都到达了最优值。这样就找到了群体的目标位置,得到了最优的估计值。本文重点讨论了 PSO参数对估计性能的影响,包括惯性权重的取值策略、学习因子几种不同取值情况、最大速度限制和种群大小不同对估计性能和估计精度的影响,仿真结果证明将标准粒子群算法应用于60GHz非线性估计问题能快速收敛到最优值得到满足要求的结果。标准的PSO算法的普适性强,但是正是由于这种较强的兼容性导致对具体的问题的特性考虑相对欠缺。在此基础上,本文将改进的粒子群优化算法(Modified Particle Swarm Optimization,MPSO)与标准的粒子群算法进行对比研究,改进的方面包括单纯体改进初始化粒子,加入变异因子以及参数设置的改进,找到一种更适合于本文场景的粒子群算法改进措施,分析结果表明MPSO算法相比于标准PSO算法能得到更好的估计结果,在实际的60GHz非线性估计问题中更加适用。