通信技术越来越向着高可靠性和高容量的方向发展。盲均衡技术是提高系统可靠性的重要技术之一,解决信道的多径效应带来的码间干扰问题。而为了获得更高的信道容量,高阶调制方式将成为发展趋势,其中正交幅度调制(QAM)和幅度相移键控(APSK)这两种高阶调制方式已得到了广泛应用。因而研究这两种信号的盲均衡算法意义重大。这两种信号存在多个幅度值,常用的利用恒定幅度值构造代价函数的盲均衡算法存在收敛速度慢和剩余码间干扰大的缺陷。本文主要针对上述问题展开研究,主要研究内容有:(1)对QAM信号和APSK信号的双模式盲均衡算法进行了改进。双模式算法即采用两种各有优势的算法。针对QAM信号,在第一模式算法中,结合多模算法和判决引导最小均方算法构造了代价函数,第二模式采用判决引导最小均方算法;针对APSK信号,在第一模式算法中,结合恒模算法和判决校正模算法构造了代价函数,第二模式采用判决校正模算法。分析了均衡器长度和算法切换判决门限对均衡性能的影响,根据分析结果,提出了变判决门限值的双模式盲均衡算法,与采用固定门限值的算法相比,能更好的兼顾算法收敛速度和性能的稳定性。(2)研究了基于逐幸存序列算法的盲均衡算法,针对高阶QAM信号和APSK信号,对算法进行改进,使其能够稳定收敛。分析了均衡器长度和迭代步进值对均衡性能的影响,根据分析结果,利用变步进值的方法进一步改善算法性能,与采用固定步进值的算法相比,保持相同剩余码间干扰的同时,收敛速度更快。