日地空间中的悬浮轨道、平动点轨道具有重要的科学探测应用价值,利用太阳帆推进可以实现在这些轨道上进行科学探测活动的目的。针对太阳帆航天器在日地空间中特殊的受力环境、太阳帆推进独特的工作原理,本文的主要研究内容如下:为了明确太阳帆非开普勒轨道的特点,建立了日地空间中太阳帆的二体动力学模型及三体动力学模型,并给出了两类日地空间中的太阳帆非开普勒轨道。太阳帆是一种具有强姿轨耦合特性的航天器,因此在主动控制时需要进行姿态角分配。本文描述了太阳帆推进的推力空间,给出了太阳帆推力与其姿态角的关系,并基于太阳帆二体、三体动力学模型,推导出了太阳帆在两类非开普勒轨道上飞行的姿态条件。首先,考虑了仅使用太阳帆推进的工况,基于太阳帆非开普勒轨道动力学模型,推导了线性化太阳帆动力学模型。设计了考虑姿态角约束的最优控制器,通过改变太阳帆姿态角来校正入轨误差、控制不稳定轨道。随后,考虑了使用混合太阳帆推进的工况。采用混合太阳帆推进的航天器由于推力器的引入,无法直接将姿态角作为控制量进行控制律设计,而是需要将推力分配至推力器和太阳帆姿态角上。本文给出了两种解析形式的控制分配方法,将太阳帆作为主要的推进系统,分别通过直接求解控制分配方程和求指标函数极值的方法进行控制分配,求解太阳帆姿态角。由于影响太阳帆的姿态角只有两个,在进行控制分配时,难以将三轴指令推力完全分配至两个姿态角上。因此,本文考虑了利用基于反射控制装置（RCD）的太阳帆进行轨道维持。RCD通过改变帆面反射率来影响太阳帆推力,引入RCD后被控量变为三维。为保证存在扰动情况下的控制效果、防止控制量高频抖振,本文设计了一种二阶滑模控制器,并给出了相应的控制分配方法。