无源定位系统中需要将非常强的直达波信号与经目标散射后的弱散射信号分离并获取最终的目标方位信息，因而需要使用空时域相结合的信号处理方法来实现直达波和散射波信号的分离。均匀圆阵天线由于其二维扫描和水平方向360°全方位覆盖特性使其在无源定位系统中得到重视及应用。本文以无源定位系统为背景，在均匀圆阵条件下，研究了无源定位系统采用数字波束形成技术从空域实现强直达波信号与弱散射信号分离的信号处理方法。由于均匀圆阵采用数字波束形成（DBF）技术形成的天线方向图旁瓣较高，制约了其对干扰信号的抑制能力。为了提高均匀圆阵的抗干扰性能，本文首先研究了无源定位中基于均匀圆阵的低旁瓣波束形成算法。分别对加窗函数法、虚拟干扰法以、最优化约束静态综合法和参考函数法进行了分析与仿真验证。结果表明，虚拟干扰法和最优化约束静态综合法可以得到-30dB的旁瓣水平。此外，在抑制强直达波信号并提取弱散射信号时，需要实现宽零陷的方向图。针对均匀圆阵常规零陷形成算法零陷宽度较窄的问题，分析了零陷加宽的算法，以保证抑制强信号的有效性。论文分析了多角度零陷、最优化静态约束综合零陷和协方差矩阵加权零陷等零陷加宽算法，并完成了基于均匀线阵和均匀圆阵的算法仿真与有效性分析。其中，多角度零陷简单易用，且零陷深度与宽度俱佳，在-100dB处的零陷宽度可以达到10°以上，适用于不知道散射波方位只在直达波方向上形成零陷来抑制直达波提取散射波的场合。而最优化约束静态波束控制方法在-80dB处可以得到理想的零陷宽度，且保持了主瓣基本不变，适用于抑制强干扰且加强确知方向的期望信号的场合。