在实际生活场景中,往往会有背景声音的存在,语音分离的目的主要是将目标说话人的语音从被污染的语音中重构出来,降低或去除干扰的影响,增强人耳对混合语音的感知以及混合语音的可懂度。本文主要研究单通道语音分离,即如何在一路观测信号中将目标语音与干扰语音分离或者如何将干扰信号的影响降到最低。本文以字典学习和深度神经网络为基础,对单通道语音分离进行分析和研究,字典学习利用字典原子线性表示语音信号的特征,而深度神经网络具有优异的非线性学习能力。基于字典学习的单通道语音增强方法对去除噪声是非常有用的,但在对两个相似信号分离时具有局限性。因此,本文将字典学习和深度神经网络相结合,并提出构建两阶段的语音分离系统,该系统包括混合语音信号的分离和估计信号的增强。本文的主要研究内容和创新点如下:（1）概述了语音分离研究的背景、意义和国内外研究现状。描述了几种语音信号的混合方式,介绍了常用的训练目标和声学特征。阐述了稀疏表示的重要性和字典学习的训练过程,分析了深度神经网络的基本原理。（2）由于基于传统字典学习方法获得的联合字典中子字典间的差异性不足,使得语音信号在联合字典表示时会出现“交叉投影”现象,导致基于传统联合字典实现语音分离时系统性能不佳。针对该问题,本文提出了基于加强约束字典学习的单通道语音分离方法,该算法使用加强约束的优化函数来增强对字典学习的约束,该约束函数分为三部分,第一部分抑制重构信号和目标信号的误差,同时约束干净信号在对应子字典上的投影,第二部分约束干净信号在联合字典上的误差,第三部分抑制干净信号在其他字典上的投影以及,并限制字典间的原子相关性。从实验结果来看,与基于传统联合字典实现语音分离方法相比,该算法提高了语音分离系统性能。（3）针对使用字典学习方法对两个相似语音信号实现分离时效果不佳的问题,本文提出了基于字典学习和深度神经网络结合的单通道语音分离方法。该方法通过字典学习重构初步估计信号,再对该信号基于深度神经网络进行增强使其更接近目标信号。首先利用基于字典学习的方法实现语音与语音的分离,重构得到初步估计信号,然后利用映射能力强的深度神经网络实现语音与交叉投影残余的分离,去除交叉投影残余,得到精细估计信号。与基于联合字典实现语音分离方法相比,该方法进一步提升了相似信号分离的准确性。（4）为了进一步提高基于双输出DNN的语音分离性能,本文提出了基于两阶段深度神经网络的单通道语音分离方法,首先使用DNN实现语音分离得到初步估计信号,然后使用DNN进行增强来缩小初步估计信号与目标信号的误差,从而得到精细估计信号。此外,针对两阶段DNN不同的任务目标选择不同的损失函数,第一阶段在约束训练目标的基础上,增加了对信号幅度谱的约束,并且挖掘了信号之间的联合关系,第二阶段同时约束训练目标和信号幅度谱。与传统一阶段深度神经网络的单通道语音分离方法相比,实验验证了该算法有效提升了语音分离的性能,提高了分离信号的准确性。