自适应非线性滤波器是在信号处理领域中应用广泛,尤其在非线性非平稳的环境中解决有关复杂性和非凸问题。从前的算法是基于高维的块适应算法,由于参与的数据数量庞大,因此在计算上极其昂贵。在目前的非线性滤波方法中,基于核的方法是最流行的,该方法拥有强大的数学基础和分析能力。此外,实验结果也表明了内核非线性模型的巨大成功。在线的核算法可以节省大量的运算量,这也使得他们在滤波器的设计中有很大的灵活性。本文基于再生核希尔伯特空间(RKHS)开发了一类在线学习算法。再生核希尔伯特空间提供一种获得非线性模型的方法,即应用“核技巧”把典型线性算法投影到非线性空间中,并且用内积的方式表达。本文采用了这种内核扩展方法,结合了的最小平均混合范数(LMMN)的自适应滤波方法,对原有算法进行改良,并且在理论和实际应用中取得了良好效果。核方法提供了一个高效的非参数模型而产生的自适应非线性滤波算法(ANF)。然而,在实际应用中,基于标准的平方误差核方法遇到了两个主要问题:(1)恒定步长的设计降低了算法的性能,特别是在非平稳环境中;(2)算法多针对高斯噪声设计,而在实际情况中,噪声在一般遵循非高斯分布。因此,本文提出了两种新的基于内核的ANF算法来克服存在的问题。量化内核最小均方(QKLMS)算法是高斯噪声环境下的最新在线自适应非线性学习算法。本文中我们基于此提出了一种自适应非线性学习,主要应用于非高斯噪声污染的环境,我们称之为量化内核最小均混合范数(QKLMMN)。该方法用混合范数的误差代替了最普遍的平方误差,并且使用了量化的方法减少了运算量。此外,本文还提出了一个内核归一化混合规范(KNMN)算法。相比于标准的基于平方误差核方法,KNMN有更好地鲁棒性和效果。我们引入了一个标准化的步长以及自适应混合参数。最后,本文提供了两种算法的稳态收敛性分析,并给出了非线性时间序列预测和非线性系统辨识的相关实验。仿真结果验证提出算法的良好的优越性和实用性。