陆地移动卫星通信系统在民用和军用通信领域都具有良好的应用前景。特种小卫星通信系统更以其高度的灵活性和低成本优势在远程情报采集、指令传递、人员调度等方面具有其它通信系统无法替代的作用。由于信道环境复杂，小卫星移动通信信号在本质上是多径传播，所以需要采用各种信号增强技术，以提高系统接收性能。前端采用自适应阵列天线的小卫星通信接收机，可通过一定的信号处理，从空间上区分信号和干扰，并且多个阵元还可获得分集增益，从而改善通信质量。基于自适应阵列天线的空分多址（SDMA）技术，是传统的时分多址（TDMA）、频分多址（FDMA）和码分多址（CDMA）的一种多址倍增技术，可进一步提高频谱的有效利用率，增大系统容量。在给定各阵元的取样数据后，自适应阵列天线信号处理的问题一般可以归结到三个方面：信号源数目的确定、波达方向（Direction of Arrival）的多用户检测和数字波束形成（Digital Beamforming，DBF）。这几个方面不是相互独立的，而是相互关联的。本人在查阅大量国内外相关科技文献资料的基础上，针对特种小卫星通信接收机中自适应阵列天线技术的有关技术问题做了以下几个方面的研究：（1）首先全面分析了信道中由于路径损耗和阴影效应而产生的大尺度衰落和由于多径效应而产生的小尺度衰落，并采用了一种适合特种小卫星移动通信系统的信道模型—全阴影模型；（2）在相关和非相关信号等条件下，对基于子空间的 MUSIC 方法的 DOA 估计性能进行了分析和仿真研究，并将其与传统的 DOA 估计方法进行了对比研究；（3）分析了 MUSIC 空间谱的谱峰的数值特征，采用了二次符号梯度算法来提取谱峰特征，并推导了谱峰特征提取的矩阵模型；在分析包含方位和俯仰信息的二维 MUSIC 空间谱的谱峰特征遍历搜索过程的基础上，采用了递归的格形搜索算法，确保了对二维 MUSIC 空间谱进行可靠而快速的谱峰搜索；（4）分析了数字波束形成的最佳权向量及其自适应调整的算法，并以数字波束形成（DBF）的理论为指导，针对小卫星多星测控问题，提出了对目标方位和俯仰二维方向进行自动跟踪的软天线系统的硬件实现结构。其中，考虑到工程可实现性，在充分利用了关于目标星空间位置的先验信息的情况下，采用了简便易行的梯度算法，保证了阵列输出权向量的自适应调整；（5）研究了一维 Rake 接收机的结构和性能，并将其与自适应阵列天线相结合，采用了一种二维 Rake 接收机结构。针对多用户多径情况下的 DOA 估计问题，采用了一种空时平滑算法。该算法能有效识别出各来波的 DOA，并将其与各用户 I<WP=6>自动分拣。与 FBSS 相比，该算法分辨力高，计算量小。