小行星不规则引力场内的动力学与控制问题一直是小行星探测任务轨道设计的理论基础和亟待解决的关键问题。由于太阳系中的小行星普遍存在自身质量小,形状各异,自旋状态各不相同的特点,致使在其附近的探测器所处的动力学环境十分复杂,进而产生了丰富的运动形态。因此,合理的探测器动力学环境分析对探测轨道的设计至关重要。同样,针对小行星探测任务类型或任务的不同阶段,需要对各阶段的动力学进行分析进而制定相应的轨道设计。悬停探测轨道,即探测器相对于小行星表面上的某片区域或某个点保持静止,目前被广泛应用于小行星的地面测绘及采样探测等任务。本文从悬停探测轨道设计的角度出发,考虑了探测器动力学环境中小行星的不规则引力场、太阳或周围天体的引力摄动、太阳光压摄动等影响因素。应用牛顿万有引力定律,建立了受摄小行星系统下的探测器动力学方程。根据动力学方程所体现的参数激励、外激励等的特点,运用非线性振动的方法,得到新的共振轨道族,提出了一种新的小行星探测轨道设计方法。论文的研究内容分为如下几个部分:(1)受摄不规则小行星模型构建:采用粒杆模型模拟小行星不规则引力场,分别考虑了太阳或周围天体的引力摄动和太阳光压摄动等因素,得到不同引力环境下的探测器动力学方程。研究分析了不同引力环境下各种因素对小行星平衡点个数、位置以及稳定性的影响。(2)小行星激励共振分析:基于探测器在平衡点附近的动力学方程,对其体现的激励形式进行分析。结合非线性振动理论,对比系统固有频率与激励频率的关系,对系统满足主共振、组合共振以及内共振的参数区域进行求解,得到受摄不规则小行星模型的共振轨道族发生条件。采用多尺度方法以及数值模拟,画出线性系统的激励共振边界。(3)小行星探测器共振轨道及其非线性特性:采用多尺度方法,对不同共振类型下的动力学方程进行求解。研究分析系统定常解并对其进行稳定性判断。通过数值模拟,得到小行星探测器周期共振轨道。绘制幅频响应曲线、力频响应曲线以及相图等,对小行星探测器共振轨道的非线性特性进行分析。