随着多媒体技术的快速发展,数字音乐的数量激增,面对海量音乐数据,人们对音乐检索、歌曲识别等信号处理技术的需求日益增加。其中,歌声分离是指将人声和伴奏从歌曲中分离,是这些技术的关键预处理环节,具有重要的研究价值。传统歌声分离算法主要基于音频先验知识进行建模,存在限制条件,无法适用于各种不同类型的歌曲,泛化性能较差。近年来,深度学习在图像分割领域展现出了优秀的性能,因此涌现出许多基于深度学习的歌声分离算法。这些算法大多通过时频变换在频域上建模,将歌曲的幅值谱图作为输入,经过深度神经网络后,得到人声和伴奏的幅值谱图,最后结合原歌曲相位谱图,重构出人声和伴奏信号。深度学习方法可以自动学习到深层次特征,具有较好的分离性能,但是仍存在一些问题。本文的主要工作内容和成果如下:（1）针对现有歌声分离算法中串行U型网络分离精度不高的问题,提出一种基于高分辨率网络和自注意力机制的歌声分离算法。高分辨率网络将多个不同分辨率的子网络并行连接,同时子网络间特征互相交换融合,实现了像素级的预测精度,保证了分离后人声和伴奏信号的质量。另外,考虑到歌曲中存在重复旋律,在高分辨率网络中融入自注意力机制,用来捕捉重复旋律的依赖关系,增强网络的特征表达能力。在MUSDB18数据集上的实验表明,该算法可以有效地分离出高质量人声和伴奏,分离得到的人声和伴奏信号偏差比指标分别达到了7.68 d B和12.85 d B。（2）针对密集连接网络计算量大,幅值谱图数据分布不均,分离信号纯净度不高的问题,提出一种基于改进嵌套U型网络的歌声分离算法。首先,使用双层嵌套U型网络作为主干网络,相比于密集连接网络,同等参数量条件下,该网络的计算量更小。其次,在网络中添加频率维度的全连接层,改变幅值谱图数据分布的同时,增强网络提取全局特征的能力。最后,通过结合理想比例掩膜和理想二值掩膜构造新的损失函数,提升分离信号的纯净度。在MUSDB18数据集上的实验表明,该算法的分离性能优秀,分离得到的人声和伴奏信号音质好、纯净度高。