由于平动点特殊的几何位置和复杂的动力学特征,使其一方面可作为对太阳活动和空间环境进行科学探测的理想位置,另一方面可作为太阳系行星际探测任务的中转站。近些年兴起的交叉学科-空间流形动力学在科学研究和工程应用方面受到极大的关注,为深空探测中不能简单用二体动力学近似的复杂任务轨道设计提供了理论基础,特别是应用于低能转移轨道设计方面,为任务实施节省燃料消耗,具有明显的工程应用价值。研究中采用的基本动力学模型有将主天体看作理想质点的限制性N体问题以及不规则小行星多面体模型,其中限制性N体系统包括JPL行星历表定义的真实力模型、限制性四体问题、圆或椭圆型限制性三体问题、圆或椭圆参考轨道对应的相对运动模型。圆型和椭圆型限制性三体问题统称为限制性三体问题,特别地,当主天体轨道偏心率为零时,椭圆型限制性三体系统退化为圆型限制性三体系统；当系统质量参数μ为零时,圆型限制性三体问题退化为圆参考轨道对应的相对运动模型,椭圆型限制性三体问题则退化为椭圆参考轨道对应的相对运动模型。另外,若将除两个主天体引力外的引力作用均看作是摄动的话,限制性四体问题和JPL行星历表定义的真实力模型也可看作是受摄限制性三体系统。在以上动力学模型框架下,我们就平动点动力学、不变流形转移理论、低能转移轨道设计、不规则小行星附近平动点动力学等方面进行了研究,取得一些成果。研究内容丰富了空间流形动力学理论,并为其在深空探测中的应用提供理论铺垫。以下是本论文的主要创新点：研究了椭圆参考轨道对应相对运动构型的级数解。将主星附近的周期运动展开为轨道偏心率,平面内振幅和垂直平面振幅的级数解形式。以Lawden解作为初始解,采用Lindstedt-Poincare方法构造了任意高阶的分析解,该分析解为椭圆参考轨道对应的大尺度编队构型提供了一个较为精确的数学表达式,且可直接应用到编队飞行的构型捕获、保持与重构等问题研究中。基于相对运动方程的解,提出一种新的构造圆型和椭圆型限制性三体系统下平动点轨道的方法。首先研究了椭圆参考轨道对应的相对运动模型下任意平动点附近的周期构型的高阶级数解,然后利用相对运动模型下平动点附近的周期构型为初值,结合数值连续和多点打靶法求解圆型和椭圆型限制性三体系统下平动点附近的周期或拟周期轨道。构造了圆型限制性三体系统下三角平动点附近的级数解。当μ<μc时,圆型限制性三体系统下三角平动点是线性稳定的,Lyapunov中心流形定理表明其附近存在三种基本运动类型,分别为长周期运动、短周期运动和垂直周期运动。三角平动点附近的一般运动为拟周期轨道,是以上基本周期运动类型的叠加。考虑到运动方程的非线性项,将三角平动点附近的拟周期轨道展开为长周期振幅、短周期振幅和垂直周期振幅的级数解形式,在计算机辅助下半分析地构造了任意高阶解。级数解的优势就在于：轨道上的任一点可由某一组参数唯一确定,这些参数可以作为轨道优化的优化参数,在实际任务轨道优化设计中特别适用。研究了小推力限制性三体系统下人工平动点附近的运动形态。与经典的圆型限制性三体系统不同的是,可以通过施加小推力推进,将空间中某些有利于实际任务的点转变为人工平动点,因此人工平动点大大增加了任务设计的灵活性,从而适应实际任务需求,比方说对主天体极区的连续观测、对太阳活动的提前预报等。构造了椭圆型限制性三体系统下共线平动点附近Lissajous和Halo轨道对应不变流形的级数解。由于太阳系中所有的太阳-行星和行星-卫星系统,主天体在轨道面内均作椭圆运动,于是椭圆型限制性三体系统比圆型限制性三体系统能够更加精确地近似太阳系中的三体系统。研究中,我们将Lissajous和Halo轨道对应的不变流形展开为五个参数的级数解形式,他们分别为轨道偏心率、不稳定流形振幅、稳定流形振幅、平面内振幅和垂直平面振幅。利用构造的级数解,可以描述椭圆型限制性三体系统下共线平动点附近的稳定流形、不稳定流形、穿越轨道、非穿越轨道、Lissajous轨道、Halo轨道。特别地,当轨道偏心率为零时,级数解可退化描述圆型限制性三体系统下共线平动点附近的中心流形和双曲流形。构造了椭圆型限制性三体系统下三角平动点附近拟周期轨道的级数解。研究中,将椭圆型限制性三体系统下三角平动点附近的运动展开为关于轨道偏心率、长周期振幅、短周期振幅和垂直周期振幅的级数解的形式,并构造了任意阶数的级数解。为了验证所构造级数解的正确性,我们计算了不同阶数级数解对应的收敛域。类似于地月弱稳定轨道(WSB轨道)思想,求解了从近地停泊轨道出发,到地-月系三角平动点附近的短周期轨道的两脉冲和小推力低能转移轨道。相较于传统的Hohmann转移轨道,这里计算的低能轨道可节省大量的燃料消耗。在圆型限制性三体系统下,提出基于Jacobi常数C的地月轨道设计方法,结合微分修正获得转移轨道参数之间的关系,包括转移时间、速度脉冲和轨道能量,其中转移时间和速度脉冲间的关系非常重要,可为实际探月转移轨道设计提供参考。考虑到粒子群算法和微分进化算法各自在求解优化问题时表现出的优点和缺点,本文提出一种改进的协作进化算法,并在后续的全局优化中得到成功应用。以圆型限制性三体系统下的低能轨道作为初值,建立了真实力学模型下求解低能转移轨道的优化问题,利用改进协作进化算法和序列二次规划算法,求解了真实力模型下多条地月低能转移轨道。并得出,相对于圆型限制性三体问题,充分利用月球轨道偏心率摄动和其他大天体引力摄动,可使得燃料消耗(速度脉冲)进一步减小。利用不变流形,研究了日-地系Li(i=1,2)点轨道与地-月系Li(i=3,4,5)点轨道之间的单脉冲和小推力转移。该研究进一步证明了日-地系Li(i=1,2)作为深空中转站的潜能,有助于日-地系Li(i=1,2)点航天器的拓展任务设计,同时,为将航天器发射到地-月系Li(i=3,4,5)点附近提供了一种选择方式：首先将航天器发射到日-地系平动点,然后通过其不稳定流形过渡到地-月系Li(i=3,4,5)点附近,最终施加脉冲机动入轨。利用不变流形级数解对目标轨道对应的不变流形进行参数化,结合全局和局部优化算法求解了从地球到日-火系平动点轨道(Lissajous轨道和Halo轨道)的小推力转移轨道。以日-地+月系三角平动点任务为例,研究了两种轨道保持策略：1)多点打靶轨道控制法；2)重构目标轨道方案。研究中,将轨道控制问题转化为非线性规划问题,并以优化方法求解。仿真表明优化方法在轨道保持问题求解方面非常有效。最后研究了棒状小行星附近的平动点动力学性质。首先利用多面体模型,建立了棒状小行星附近的引力场,计算了小行星附近的平动点位置、平动点线性稳定性与系统参数(棒长度和旋转角速度)的关系,然后计算了平动点附近的平面Lyapunov轨道和垂直Lyapunov轨道族,对不稳定平动点,计算了附近的不变流形,并讨论了其在小行星俘获与逃逸任务中的应用。