为解决卫星导航信号低信噪比导致的,用户接收机受干扰信号影响严重的问题,抗干扰处理技术被引入导航系统。目前,应用最广泛的抗干扰技术为空时自适应处理(Space-time Adaptive Processing,STAP)抗干扰技术,该技术较空域或时域抗干扰技术提高了自由度,从一维空间扩展至二维空间,大大减少了天线阵列的占地面积,且能够同时抑制宽带和窄带干扰。不过,现有的导航系统抗干扰研究主要面向GPS导航系统,对北斗导航系统的抗干扰研究还处于初级阶段。本文针对北斗导航系统进行抗干扰研究,基于STAP算法从协方差矩阵结构优化和结合启发式优化算法两个方向进行研究,并对其可行性进行验证。论文主要工作如下:首先,基于导航系统用户接收机接收信号时存在的低信噪比和受干扰影响严重的问题,介绍了空时自适应处理抗干扰技术的基本原理、信干噪比改善度数学模型、导航系统干扰信号的类型及接收机采用的天线阵列类型。阐述并分析了线性约束最小方差准则、最大信干噪比准则和最小均方误差准则在STAP算法中的优势及劣势。仿真结果表明上述准则中,基于线性约束最小方差准则的STAP算法抗干扰效果最佳。其次,针对信干噪比改善度和波束形成两方面展开了研究:从STAP协方差矩阵结构优化出发,提出了基于协方差矩阵估计的相关子空间投影(Correlation Subspace Projection based on Covariance Matrix Estimation,CSP)算法,提高了STAP的信干噪比改善度,并与特征子空间算法、干扰子空间投影算法、秩约束最大似然估计算法和基于训练数据的估计算法进行对比。随后将部分对比算法与多线性约束算法结合,解决了STAP波束形成中的部分问题,与CSP算法进行了比较分析。仿真结果表明CSP算法能够在提高信干噪比改善度的同时保证波束形成结果稳定。最后,将STAP算法与萤火虫算法、布谷鸟搜索算法和蝙蝠算法相结合,对STAP算法的信干噪比改善度进行了提高,比对三种算法的运算时间及优化结果可以得出蝙蝠算法最为理想,能够提高抗干扰性能指标且用时最少。再通过结合部分基于协方差矩阵结构优化的STAP算法,与蚁群优化算法和风驱动优化算法进行仿真比较,对算法波束形成结果进行了改善。针对蝙蝠算法存在的关于局部最优的问题,提出了基于协方差矩阵自适应进化策略的蝙蝠算法,与STAP算法进行结合,对信干噪比改善度和波束形成结果进行了优化。仿真结果表明启发式算法对信干噪比改善度和波束形成两方面都具有优化改善效果。