地球静止轨道（Geostationary Orbit,GEO）卫星具有对地覆盖区域广、星下点轨迹固定等特殊性质,在通信、导航、气象、对地观测、军事预警等民用和军用领域有着广泛应用。然而,失效卫星、火箭上面级、空间碎片等不受控目标占据了大量GEO轨道资源,对在轨航天器的安全运行构成严重威胁。为保证空间资产的安全,空间编目、燃料加注、轨道清理等在轨服务类项目得到了各航天大国的高度重视。由于GEO目标卫星具有机动性强、非合作、平台多样、迹向分布密集等特点,对空间目标的高精度跟踪与悬停控制成为了在轨服务类空间任务工程化过程中亟待解决的关键技术。本文在国家预研项目的支持下,围绕空间目标的高精度跟踪与悬停控制问题,重点研究中远距离交会过程中的高精度相对导航、测量欠维下的全维状态估计、机动目标的快速高精度跟踪、混合推进的低燃耗悬停控制等问题,主要研究成果如下:针对高精度相对导航面临的性能评估与滤波参数整定问题,建立间接测量的相对导航方程,推导了CW方程存在常值误差下的期望偏差传递模型和真实方差传递模型,将设计余量（状态量估计方差和真实方差的比值）与估计精度作为相对导航的优化指标,提出了一种卡尔曼滤波器过程噪声阵和衰减记忆因子的整定方法,对固定距离伴飞和1km-100km区间伴飞均给出了量化分析,并进行了仿真验证。针对由于雷达测量最小分辨率产生的相对导航低频波动问题,推导了测量模型存在低频/常值误差下的期望偏差传递模型和真实方差传递模型,提出了一种自适应变步长的卡尔曼滤波算法,相比于工程上常用的低带宽滤波器,所提方法具有更小的噪声放大系数,滤波精度提高约一个量级。然后研究了低成本简配卫星所面临的欠测量信息下的全维状态估计问题。欠测距相对导航需要卫星进行轨道机动以提高系统的可观性,针对该方法中的轨道机动方向寻优和快速收敛问题,在证明欠测距相对导航的估计运动轨迹与真实轨迹间存在比例特性的基础上,将其比值作为状态量（比例因子）推导了系统的可观度评估模型及误差传递模型,基于可观度最优给出了绕飞和伴飞两种典型构型下最优机动方向的分析方法,提出了一种基于比例因子递推修正的自适应卡尔曼滤波方法,并进行了仿真验证。针对欠偏航姿态测量的相对导航问题,联立姿态动力学与CW方程作为状态方程,联立地平仪和星间测量作为观测方程,提出了一种姿轨联合的EKF滤波方法,将归一化Gram矩阵作为可观性分析模型,分析对比了不同相对运动构型下滤波方法的可观度水平,仿真结果表明所提出的算法可行、有效,姿态确定和相对导航滤波性能可以满足中等精度的卫星编队需求。之后,研究了基于IMM（交互多模型）和TSKF（二阶段卡尔曼滤波）两种方法的空间非合作机动目标的高精度快速跟踪问题。基于增广CW方程的IMM方法稳态精度较低且计算复杂度高,存在工程应用难题,为此,提出了一种改进降维IMM方法,引入加速度估计的似然函数定义自适应修正因子,修正模型预测概率以匹配目标的机动指数,对基于CW方程的滤波模型进行维度变换,与基于增广CW方程的滤波模型组成降维IMM,以降低计算复杂度。针对TSKF方法应用中稳态估计精度与机动跟踪快速性之间存在矛盾的问题,提出了一种自适应TSKF方法,采用周期性触发和加速度边界检测函数定义修正因子,自适应修正偏差滤波器的观测阵和过程噪声阵,以改善偏差滤波器观测阵与无偏滤波器残差响应的匹配性。数学仿真表明,目标在最小、平均、最大三种机动指数下,降维IMM和自适应TSKF两种方法均可实现高精度的稳态估计和快速的机动目标跟踪。最后,研究了“水滴”悬停构型的形成机理、设计方法和混合推进下的低燃耗控制问题。采用CW方程描述的“水滴”构型特征参数建模复杂,构型不易设计,为了解决该问题,采用两星轨道要素偏差建立面内相对运动方程,对“水滴”悬停构型的形成机理进行了深入研究,推导了构型的特征参数（如重访时间、上边界等）表达式,在此基础上给出了一种基于半长轴差和偏心率差的构型设计方法,适用于脉冲轨道控制。为了进一步降低燃耗,可利用电推进的高比冲优势辅助化学推进进行悬停控制,但是电推进的连续作用破坏“水滴”构型的对称性,增加了构型的设计难度。为了解决该问题,采用CW方程和相对轨道要素混合建模方法推导了重访周期和控制量解算方程,提出了一种多模式混合推进体制下的悬停构型设计与控制方法,数学仿真表明该控制方法有效,燃耗接近最优燃耗,最后设计了一套空间运动仿真试验系统,对文中提出的相对导航和悬停控制方法进行了半物理试验验证。