自适应滤波器(AF,adaptive filter)作为一种十分有效的随机信号处理工具,已被应用于信息科学的各个领域。自适应滤波算法的研究是信号处理领域较为活跃的研究课题。自适应滤波算法可以归结为两大类,即线性自适应滤波算法和非线性自适应滤波算法。其中经典的自适应滤波算法有:最小均方算法(LMS,least mean square algorithm)、核最小均方算法(KLMS,kernel least mean square algorithm)、核仿射投影算法(KAPA,kernel affine projection algorithm)等。在核自适应滤波算法中,核函数的选择是极其重要的。然而可供选择的核函数有很多种,比如:高斯核(GK,Gaussian kernel)函数、拉普拉斯核(LK,Laplace kernel)函数、指数核函数、多项式核函数,其中最常用的是高斯核函数。在本论文中,我们提出一种混合核函数,并基于此混合核函数提出了混合核最小均方算法(KLMS-MK,kernel least mean square algorithm with mixed kernel)。大多数现有的自适应滤波算法都是在均方误差(MSE,mean squares error)准则下研究的,这是高斯噪声下理想的最优化准则。然而,这个假设未能模拟在实践中发现的非高斯噪声的行为。作为核空间中一种鲁棒的非线性相似性度量,相关熵在机器学习和信号处理领域受到越来越多的关注。尤其是最大相关熵准则(MCC,maximum correntropy criterion)已被成功地应用于随机信号处理中。相关熵中默认的核函数是高斯核函数,当然,这并不是最好的选择。广义最大相关熵准则(GMCC,generalized maximum correntropy criterion)作为MCC的推广已被应用于自适应滤波算法中。本论文主要从自适应滤波算法的代价函数角度进行研究,其工作内容主要为以下两个方面:(1)提出一种混合核函数,用于替代KLMS中的高斯核函数。本文运用该混合核函数,在KLMS中进行理论推导,从而提出了KLMS-MK。同时将凸组合的方法应用到KLMS的核函数上,提出的KLMS-MK具有高斯核和拉普拉斯核两者的优点。在KLMS-MK中,凸组合的混合参数是由梯度下降法自动调整的。同时,我们还证明了混合参数的收敛性。因此,在KLMS-MK中,将传统的单核函数拓展到多核函数;进一步改善了收敛速度和MSE。(2)提出了基于最大相关熵(MC,maximum correntropy)的仿射投影算法。首先,介绍最大相关熵的相关理论,包括:定义、最大相关熵的相关性质以及与其相关的自适应滤波算法。其次,研究了基于最大相关熵的仿射投影算法,推导得到了其权重更新方式。验证了提出算法的有效性。