一次飞行任务探测多个目标是实施未来深空探测任务的重要发展思路和途径,轨道设计优化是深空探测技术的关键问题之一。论文以多任务深空探测问题为背景,对深空脉冲与小推力轨道优化、引力辅助系列探测任务优化、多小行星遍历交会优化等问题进行了研究。主要研究成果如下:发展了深空探测脉冲轨道机动优化方法。在深空脉冲机动轨道设计中引入了小推力可实现性约束,研究给出了考虑该约束的最优脉冲机动轨道设计方法;建立了发射窗口与多脉冲转移轨道一体化设计模型,提出了基于多目标进化算法的设计优化方法,该方法可以快捷地揭示任务总体特征参数之间的关系和特性,对实际任务设计具有较好的应用价值。提出了两类简单高效的深空探测小推力轨道优化方法。提出了一类综合使用直角坐标连续推力模型和球坐标固定推力模型的最优小推力交会直接法优化策略,并通过与伪谱法的优化结果比较验证了该策略的全局最优性和效率;综合了求解两点边值问题的同伦法和不同优化算法的优点,提出了燃料最优小推力最优交会两点边值问题的混合法全局优化策略,该方法可以较为可靠地获得bang-bang最优推力曲线。发展了含引力辅助机动系列探测任务轨道设计优化方法。建立了利用大行星多次引力辅助的深空多脉冲交会轨道优化模型,探讨了大行星之间顺访小行星系列的优化变量选择问题,给出了基于微分进化算法的优化策略;以第三届全国深空轨道大赛问题为背景,给出了一个典型的利用引力辅助探测多个大行星和小行星的系列任务轨道优化问题的求解方法,该方法可从大量可能探测目标库中有效选择较优的探测目标及飞行序列。提出了深空多小行星遍历交会多目标优化方法。建立了多小行星遍历交会的多目标两层混合整数非线性规划模型,提出了综合使用快速非优超排序机制的混合编码遗传算法和多圈Lambert算法的求解策略;完成了18颗小行星遍历交会问题的求解,验证了提出方法的有效性,通过推进剂最优解与时间-推进剂多目标Pareto解前沿的对比,分析了多小行星遍历交会的特性。论文对深空探测脉冲机动轨道和小推力机动轨道优化方法进行了有益改进,提出了含引力辅助机动的系列探测任务和深空多星遍历交会任务优化方法。研究成果为多任务深空探测轨道设计提供了一些有效的新思路和优化技术手段。