盲源分离是指在源信号和信号混合模型未知的情况下,从混合信号中分离出源信号的过程。在真实环境中,由于存在反射、延迟、干扰等因素,观测信号通常具有卷积混合形式。目前,频域方法是卷积混合盲源分离的研究热点。频域方法的思想是通过短时傅里叶变换将时域卷积混合信号转换成频域瞬时混合信号,之后就可以对每一个频率点的混合信号采用瞬时盲源分离算法进行分离。但由于盲源分离算法存在固有的幅度和排序模糊性,因此在对频域分离信号进行短时傅里叶逆变换之前,必须解决这两种模糊性问题,其中排序模糊性的问题更为突出。针对卷积混合盲源分离频域算法,本文具体的研究内容和成果概括如下:(1)针对频域方法的幅度和排序模糊性问题,本文以语音信号为例,研究了解决幅度模糊性的最小失真法以及解决排序模糊性的三种方法,分别是幅度相关性排序法、波达方向排序法以及独立向量分析(IVA)法,并对三种算法进行了仿真对比分析。之后本文在解决排序模糊性问题最好的IVA算法的基础上,提出一种基于步长自适应的IVA卷积盲分离算法。该算法使用JADE算法对分离矩阵进行初始化,使初值更为合理,避免出现局部收敛;并对步长参数进行了自适应优化,以提升算法的收敛速度。仿真结果表明,本文算法对信号分离效果有一定提升,并显著缩短了运算时间。(2)针对稀疏情况下的卷积混合情况进行了研究,本文研究的稀疏情况分为源信号时频稀疏以及卷积混合滤波器稀疏两种情况。在源信号时频稀疏的情况下,本文研究了一种利用该特性进行盲分离的二元时频掩模法,并针对该方法易造成信号失真且无法去卷积的缺点,提出了基于二元掩模的相关度排序算法。该算法以二元时频掩模分离信号为参考,将各频点瞬时盲分离的信号与其求相关,该过程既可以获得各频点的正确顺序,也可以解决失真和去卷积问题。仿真结果验证了该方法的性能提升。(3)在混合滤波器稀疏的情况下,本文针对如何利用稀疏性进行了研究。探索了稀疏滤波器的L1范数特性,并提出一种基于L1范数最小化的稀疏滤波器排序恢复算法,仿真结果表明,该方法在没有幅度问题时可以恢复稀疏滤波器的频域排序。之后本文从盲信道估计领域入手,研究了一种单源稀疏卷积信道估计方法,该方法利用稀疏信道的L1范数特性,使用凸优化从单源卷积信号中估计出稀疏信道。仿真验证了该方法在观测信号的时频信息不完整时也可以进行有效的估计。最后,本文综合两种稀疏情况,提出了一种基于凸优化的多源稀疏卷积盲分离算法,为稀疏情况下的卷积盲分离提供了一种新的解决思路。仿真实验验证了本文提出方法的有效性。