随着人类航天事业的发展,人类对太空的探索也越来越深入,2010年IKAROS号太阳帆由日本宇航机构研发,并且发射成功,自此太阳帆航天器开始受到越来越多的关注。太阳帆航天器在太阳系内受到太阳光的光压作用获得推力,通过改变其帆面的朝向而改变推力方向和大小,因其不需要携带燃料而能持续获得小推力,从而具有传统航天器所没有的优势,是用来执行深空探测任务的理想对象。本文对太阳帆航天器深空探测过程中的轨迹优化问题进行研究。基于时间系统和所定义的坐标系分别对电致变色帆和全反射太阳帆的推力加速度进行推导分析后,提出一种关于改进春分点轨道根数的新的形状函数,接着对所提出的形状函数的轨迹近似效果进行分析,验证本文的形状函数能够有效近似太阳帆轨迹。之后利用形状函数法对太阳帆轨迹优化问题进行求解,首先是对轨迹优化问题的描述,包括确定了问题的优化指标—转移时间,其次是轨迹所需满足的限制条件（限制加速度的最大幅值和径向加速度为正）和边界条件。对于全反射太阳帆,由于其实际控制量只有两个关于帆面的姿态角度（推力锥角和时钟角）,而在优化过程中需要对三个方向的加速度分量优化,并且形状函数法无法处理等式约束条件,因此目前还无法得到全反射太阳帆的精确优化轨迹,本文采用一种近似方法,在限制条件中增加了两个条件分别对径向加速度和切向加速度进行限制,通过一个小量控制两个方向的加速度分量与全反射太阳帆的可行加速度的偏差,从而实现了对全反射太阳帆可行轨迹的近似。当限制条件中的加速度偏差较小时,得到的全反射太阳帆初步设计轨迹的质量并不高,为了后续更好地比较形状函数法与高斯伪谱法的优化结果差异,采用形状函数法对电致变色帆进行轨迹优化,在限制条件中增加了对帆面反射率这一控制量的边界约束,保证反射率始终在零与一之间变化。之后,结合形函数和太阳帆轨道动力学方程推导得到优化指标、限制条件和边界条件的具体形式,从而得到待求解的非线性规划问题,采用遗传算法求解该非线性规划问题,将其结果作为初值再通过序列二次规划法进一步求解,得到了初步设计轨迹。求解结果表明本文所提出的形函数方法能够成功的实现两种太阳帆的地球到火星和地球到近地小行星的轨迹转移。为比较验证本文的形状函数方法的优化程度与计算效率,将形状函数法对电致变色帆的初步设计轨迹作为初值,通过高斯伪谱法进一步优化,将最终优化结果与初始设计轨迹进行比对,结果表面,本文所提出的形状函数法计算速度很快,计算用时不到高斯伪谱法的千分之一,轨迹转移时间相差约百分之十;为验证本文的形状函数方法为高斯伪谱法提供初值的有效性及鲁棒性,首先分析了在不同的加速度偏差下形状函数法对全反射太阳帆的优化结果收敛到可行解的概率;其次在不同的特征加速度下,分析了形状函数法提供初值后高斯伪谱法的进一步优化结果收敛到可行解的概率,从而验证了不同工况下本文的形状函数法的鲁棒性及提供初值的有效性。