作为衡量经济和科技实力的标志,深空探测一直是各大强国致力发展的领域。作为新世纪深空探测的热门方向,小行星和彗星等小天体探测必须加快研究步伐。随着计算机和图像处理技术的进步,小天体探测的光学自主导航逐步成为未来发展的方向。如何处理导航图像并提取出导航信息是光学自主导航的重要一环。本文结合国家863计划项目子课题“暗弱小天体几何特征提取与导航信息计算”,深入研究了小天体探测接近段的光学自主导航,主要研究内容如下:首先,结合小天体探测接近段的导航背景,建立所需的相关坐标系。根据目标小天体和航天探测器的轨道特性,分别建立轨道动力模型。在此基础上,分析各摄动力对动力学模型的影响大小来实现模型简化。同时根据光学自主导航的特性,建立相机观测模型,并对观测信息的提取方式进行归纳总结。其次,根据点光源图像星点的数目,分为多点和单点图像。针对其各自的任务及难点,设计了不同的图像处理方案。在处理多点光源图像时采用均值滤波去噪,同时使用多项式拟合法解决拖尾问题,之后利用三角形匹配算法识别目标天体,并且得出观测信息。在处理单点光源图像时,重点解决暗弱小目标提取问题。使用最大类间方差法提高图像信噪比,之后结合改进的数学形态学方法进行滤波,结果显示该算法可以快速准确地对暗弱小目标进行提取。然后,针对面目标天体图像的处理,对其进行散光修复、边缘检测和伪边缘去除等处理后,考虑到目标天体轮廓不规则且不完整,分别介绍了矩算法和最小二乘法。由于最小二乘没有考虑样本点之间的差异,本文设计了一种新的样本点筛选分组方法,对最小二乘拟合法进行改进。仿真结果显示改进算法能够精准有效的获取目标天体轮廓和形心信息。最后,对小天体探测接近段导航算法进行研究。点目标跟踪导航利用卡尔曼滤波对小天体的运动位置进行预测,减小图像搜索范围,仿真结果显示能够抑制随机误差的影响实现目标天体的跟踪;在面目标天体导航问题上提出一种基于形心和视直径的光学导航算法,将视直径和形心坐标信息结合起来,推导出探测器的相对位置。利用桌面半实物仿真系统,验证了该算法的可行性。