卫星自主定轨是确保不同种类的卫星顺利完成各自肩负的科学任务的基础,实现卫星自主定轨对于降低卫星运营成本、提高卫星自主生存能力以及使其能够更好、更安全的为人类服务具有重要意义。本文首先介绍了卫星自主定轨所需的基本理论,简要分析了卫星自主定轨中涉及的时空系统及轨道动力学模型。重点研究了北斗和X射线脉冲星的导航原理,并针对X射线脉冲信号提取、脉冲时间相位模型及时间转换等问题做了深入研究。接着对北斗采用的BOC信号及其衍生的MBOC信号的调制原理、关键特性和其捕获原理与算法进行了深入分析,并提出了一种基于伪随机码特性和三次样条插值的BOC信号快速捕获算法。针对卫星自主定轨过程中可能出现的滤波发散、动力学模型非线性以及实时性等问题,深入研究分析了EKF、UKF、SR_UKF几种非线性滤波算法。通过对不同轨道高度的卫星可见北斗导航星数的分析,得出对高轨卫星而言大部分时段内可见导航星数不足四颗无法完成定轨解算。对此研究了利用x射线脉冲星导航实现高轨卫星自主定轨的方法。在此基础上,提出了一种利用联邦滤波器将X射线脉冲星导航与北斗导航两种系统组合起来实现高轨卫星自主定轨的方法,且分别用EKF、UKF、SR_UKF算法做了仿真验证,结果表明两系统融合提高了定轨精度。最后,本文分别以高、低轨卫星为研究对象,北斗系统采用伪距和伪距率作为测量值,X射线脉冲星采用TOA为测量值设计了相应的仿真系统并做了仿真分析,证实基于北斗和脉冲星实现卫星自主定轨是完全可行的。