扩声系统广泛应用于影剧院、报告厅、会议室、教室等公共场所。在扩声系统中，传声器接收到的信号不仅包括声源的直达声信号，还包括扬声器的反馈声信号，以及声源由于墙壁、地面、顶棚等障碍物的反射、散射形成的混响信号。反馈声的存在使得扩声系统成为一个闭环系统从而可能出现不稳定的啸叫现象，影响扩声效果，严重时会导致系统崩溃，因此，啸叫是扩声系统中首要解决的问题。而长时间混响会严重影响传声器语音信号的质量与可懂度，通过去混响可以提高扩声系统中的语音可懂度，因此研究去混响技术在扩声系统中的应用具有重要的研究和应用价值。　　针对反馈声控制以及去混响中的若干关键技术问题，开展了理论和实验研究，提出了相应的解决方案。反馈声控制包括啸叫抑制与反馈声消除:啸叫抑制通过检测啸叫频率并利用陷波器抑制相应频率的增益使得扩声系统成为一个稳定的闭环系统;而反馈声消除通过估计反馈声信号并在传声器端相减，使系统成为一个开环系统。本文在啸叫频率检测、自适应反馈声消除、自适应陷波器以及去混响方面的研究成果如下:　　(1)针对传统啸叫检测算法易受语音谐波干扰，产生大量虚警的缺点，提出一种基于倒谱预处理的啸叫检测算法。研究表明:与啸叫信号类似的单频信号倒谱系数峰值较小，而语音谐波信号倒谱系数有明显的倒谱峰值结构。通过抑制此倒谱峰值，降低传声器信号中的语音谐波成分，从而提高啸叫检测算法的检测概率。实验结果表明，基于倒谱预处理的啸叫检测算法能够减少系统中啸叫检测算法的虚警概率，从而降低了扩声系统语音信号失真。　　(2)针对闭环系统反馈路径辨识中参考信号与干扰信号具有强相关性，使得反馈路径辨识结果出现较大偏差的问题，提出了一种利用倒谱预处理技术的自适应反馈路径辨识算法。倒谱预处理技术能够抑制传声器信号中语音谐波信号，从而显著降低参考信号与干扰信号的相关性，减小系统辨识偏差。实验结果表明，本文提出的基于倒谱预处理的自适应反馈路径辨识算法具有更小的辨识偏差，从而提高自适应反馈声消除算法性能。　　(3)针对线性预测(Linear Prediction，LP)自适应陷波算法以及间接梯度下降(Indirect Plain Gradient，IPG)自适应陷波算法的优缺点，提出了一种两步优化的自适应陷波算法。理论分析结果表明:在远离最优值时，LP算法的收敛速度总是大于IPG算法的收敛速度，而在靠近最优值时，IPG算法的收敛速度总是大于LP算法的收敛速度;同时在自适应算法收敛后，IPG算法的收敛值偏差以及均方差均要小于LP算法收敛值的偏差以及均方差。两步优化的自适应陷波算法实时估计与最优值的距离，在远离最优值时算法采用LP自适应算法收敛路径，在靠近最优值时采用IPG自适应算法收敛路径。实验结果表明两步优化的自适应陷波算法具有更快的收敛速度，同时能够保持较小的收敛值偏差以及均方差。　　(4)针对晚期混响问题，在LP残差域，提出了一种基于广义特征值分解(Generalized Singular Value Decomposition，GSVD)的最优滤波语音去混响以及降噪算法。计算了听觉掩蔽曲线在LP残差域对应的广义特征值，推导了基于人耳听觉掩蔽效应约束的最优滤波器方程。在降低混响以及噪声的同时，提高了传声器信号的语音质量。仿真与实验结果表明，本文提出的LP残差域基于GSVD的带人耳听觉掩蔽效应约束的最优滤波语音去混响以及降噪算法能够提高传声器信号的段信噪比、降低语音信号的对数频谱距离，减少语音失真，提高传声器语音信号的主观质量。