近些年来，随着各国相继进行在轨试验，卫星光通信技术正逐渐向工程化应用迈进。欧洲和日本最新试验结果表明，目前光链路双向跟踪稳定性较差，有效通信时间仅占总实验时间的4.0%，严重影响通信数据的传输。因此，研究影响双向跟踪过程稳定特性的关键因素，明确双向光束稳定跟踪的约束条件，对优化系统设计、提高通信链路稳定性、延长有效通信时间具有重要意义。本文主要从理论、仿真和地面模拟实验多个方面对星间双向光束跟踪过程的稳定性约束条件进行了研究。首先，介绍了课题研究背景及国内外在星间光通信跟瞄技术的发展现状。对跟瞄系统的控制方法、控制器和控制算法做了详细介绍，详细分析和总结了已成功进行星间双向光通信的国外在轨试验。之后，对产生瞄准角度误差的主要原因进行了分析，分别讨论了光束传输产生的弛豫时间、卫星间相对运动及星上微振动和探测器测角误差的影响。在对单向和双向跟踪过程进行分析的基础上，指出了现有双向跟踪理论存在的问题。在研究瞄准角度误差分别对接收功率、测角误差和跟踪稳定性影响的基础上，通过对终端跟踪误差角度的面阵探测建模，综合考虑接收端信噪比影响，分析了双向光束跟踪过程中的迭代收敛过程，推导出了更接近链路实际情况的稳定跟踪约束条件理论公式。最后，分别通过计算机仿真和动态链路模拟装置模拟星间双向跟踪过程，通过大量星间光链路双向光束跟踪模拟实验，得到了在不同情况下链路保持稳定跟踪的条件。实验数据与理论分析对比结果表明，本论文提出的光束双向跟踪稳定约束条件符合链路实际情况，对卫星光通信终端优化设计具有重要意义。