广义特征分解技术(Generalized Eigen-decomposition，GED)出现在许多科学和工程学科中，作为一项非常实用的统计工具使用被应用于大量关键技术中。例如，用于特征提取和分类的LDA(Linear Discriminat Analysis)可被归结为一种广义特征分解问题：在信号处理应用中GED用于谱估计、盲源分离等；在无线通信环境中，GED用于估计天线阵列的最优权向量和CDMA系统中2D rake接收器的设计。广义特征分解问题在数学上主要归结为广义特征值问题，即一个矩阵束(A，B)的广义特征值就是其特征多项式det(A-λB)的根。假设A和B是HermitJan矩阵，且B是正定，所有的广义特征值都是正实数。这就是本文研究的广义Hermitian矩阵特征分解问题(GHEP)。至今已有不少的线性代数文献给出了大量的分析算法，但是大部分都是假设矩阵束是给定的。这些算法需要大块的数据或者计算复杂度高。许多应用需要在线的自适应算法。在慢速时变环境中，矩阵束是未知的，需要从随机序列中估计得到。这时算法跟踪能力成为关键课题，因为只有快速的在线算法才能在这种变化的环境中做快速自适应调整。相对于广义特征问题的数值方法，自适应在线算法在这类工程技术中具有更广泛的实际应用价值。本文先对广义特征分解问题进行建模，将瑞利商优化问题转化为无约束优化问题。在提出的两个新的无约束损失函数基础上分别推导出两种新的广义特征分解算法，即利用Hessian阵近似推导出的基于拟牛顿法的自适应特征分解算法；利用投影逼近技术的基于RLS的自适应特征分解算法。应用收缩规则，将用于估计单个主特征子空间的在线算法，推广到估计多个特征向量的串行和并行算法。文中严格分析了无约束损失函数的特性，利用Ljung随机逼近理论分析了两种算法的收敛性。通过计算机仿真，说明了算法具有良好性能。将本文提出的自适应广义分解算法应用到无线通信环境中：MC—DS—CDMA系统接收技术和自适应波束形成技术研究。这两个应用采用最大信号干扰噪声比准则(MSINR)来求解最优的权向量。本文论证了基于MSINR准则的优化问题等价于矩阵束的广义特征分解问题，这两个矩阵分别是输入信号和干扰信号的自相关矩阵。因此可以采用本文提出的两种自适应广义特征算法。结果验证了算法具有快速收敛性和动态跟踪能力，说明了本文提出的两个算法非常适合应用于实际通信环境。总之，本文对自适应广义特征分解问题做了系统的研究，建立了一套完整的算法理论框架。