基于盲源分离的运行模态分析方法由于其高效率、不依赖参数数学模型的特点近年来成为机械系统信号处理领域的一个研究热点,展现出了广阔的应用前景。现有的盲源分离算法由于不能求解欠定盲源分离问题,因此在运行模态分析中要求传感器的数目必须大于或者等于模态的个数,这成为其工程应用的主要障碍。鉴于此,本文围绕欠定盲源分离问题及其在运行模态分析中的应用开展了理论和实验研究。论文首先对现有的盲源分离的两种主要算法,即独立分量分析和二阶盲辨识算法进行了对比分析,在更适于运行模态分析的二阶盲辨识算法的基础上提出了退化二阶盲辨识算法(DSOBI),用每次提取一个源信号的方式来满足盲源分离问题对传感器数目的要求。该方法以源信号间的二阶统计量为目标函数,通过构建单个模态滤波器实现对模态坐标的逐次提取,然后通过最优维纳滤波对该阶模态的贡献量进行估计,再从混合信号矩阵中去除这阶模态的影响。仿真结果表明这种对源信号进行逐次提取的退化算法不能完全解决欠定盲源分离问题,但是与其他批处理算法相比却具有不需要预先对源信号的个数进行估计的优势。通过分析发现退化算法在处理欠定盲源分离时同样存在所有时域方法共有的缺点,即无法在时域区分振型相似的模态坐标,因此需要设计相应的盲源分离频域算法。为此本文提出了最小谱方差频域算法(FMSV),并通过广义特征值分解实现了目标函数的最小化。由于该算法在最优化过程中无需迭代,使得其运算效率远高于二阶盲辨识算法,但该算法对噪声、阻尼等的稳定性较差,因此只适合于弱阻尼、高信噪比时的运行模态分析。为了提高最小谱方差频域算法的稳定性,本文又探讨了其扩展算法,即基于加权协方差矩阵广义特征值分解的频域算法(FGWCM),通过优化各项参数使得该方法达到与二阶盲辨识算法比较接近的精度。本文提出的两种频域算法由于模态坐标的频域稀疏特性,使振型相似的模态坐标在频域很容易被区分,这为解决欠定盲源分离问题提供了可能。本文从模态分析的角度明确了二阶盲辨识算法无法处理欠定问题的原因,基于虚拟源信号的频域稀疏特性提出了分频段盲源分离的思路。然而前面提出的最小谱方差频域算法及其扩展算法由于稳定性的问题不能直接用于分频段盲源分离。为此本文提出了基于对滤波协方差矩阵组实行联合近似对角化的频域方法(FJADE),该算法可以求解欠定盲源分离问题,同时有效地克服了算法的稳定性问题。理论分析表明现有的几个盲源分离经典算法都是这种联合近似对角化频域方法的时域特例。论文针对所提出的四种方法分别进行了与二阶盲辨识算法的对比仿真分析,包括对算法的参数分析及对噪声、阻尼和模态个数的稳定性评估。最后本文对各个算法进行了实验验证,分别对简支梁结构、矩形钢板结构和风机叶片用所提出的算法进行了模态分析,实验结果与理论分析结果吻合良好。针对由卡门涡街引起的机翼模型和圆柱杆的辐射噪声信号,用退化的二阶盲辨识算法对混合信号进行了特征提取,分离得到的源信号与混合信号相比具有更强的频谱特征,证明了用该方法进行噪声信号盲源分离的可行性。仿真和实验结果表明,本文提出的基于对滤波协方差矩阵组实行联合近似对角化的频域方法(FJADE)可有效地解决欠定盲源分离问题。同时本文提出的四种算法并不局限于运行模态分析领域的应用,也可应用在任何满足算法基本假设条件的盲源分离领域。