遥感目标检测是遥感应用技术中重要的一环,以遥感卫星捕捉到的影像为数据来源,采用图像处理技术对影像中的感兴趣目标进行定位和跟踪。借助遥感卫星全天时无天候对地观测的优势,遥感目标检测能随时提供广域范围内地物的详细信息,在国土规划,灾情监测,军事侦察等领域被广泛应用。近年来,随着遥感技术的进一步发展,遥感目标检测技术也得到了提高,尤其在分辨率方面。目前光学遥感图像的空间分辨率高达0.6m,在此分辨率下目标的轮廓和纹理更加清晰,为目标检测提供更丰富的细节信息。由此可见,研究光学遥感图像的目标检测技术对遥感目标检测技术的提高具有重要的理论意义和实用价值。本文从颜色纹理干扰,旋转变化及形似干扰物三方面着重研究光学遥感图像目标检测中的鲁棒性问题,着重讨论这些问题在复杂背景下的困难,并给出了相应的解决方案,通过实验验证和讨论了提出方案的可行性和有效性。本文主要的研究成果如下：(1)针对复杂背景下目标颜色和纹理的干扰问题,提出了几何部件模型及基于几何部件模型的分级检测算法。首先根据刚性目标特有的几何外观,建立几何原子库,并采用几何原子库将目标轮廓稀疏表示得到的少量几何原子作为部件：然后定义几何部件的权重,根据权重大小构建有序链式结构,并在此基础上设计了分级检测算法。几何部件模型根据目标轮廓的复杂程度选取不同数目的几何部件,具有一定的灵活性；部件的生成受目标自身颜色和纹理的差异以及背景干扰影响较少；在几何部件基础上,设计了分级检测算法,通过逐级减少部件搜索范围,降低部件的搜索时间,提高检测速度。实验结果表明,几何部件模型在复杂背景下有效抵抗目标颜色和道理的干扰,对刚性目标有较高的检测准确性。(2)遥感图像中目标呈现出不同方向,为了实现旋转不变检测并抵抗复杂背景的干扰,提出了基于径向梯度角和主方向一致性投票的检测方法。首先定义具有旋转不变特性的径向梯度角特征来描述边缘像素点：然后根据径向梯度角的相似程度,寻找检测窗口和目标模板之间具有主方向相关关系的点对；随后,利用主方向关联点对的几何关系,每对点对估计目标的候选主方向；最后所有候选主方向进行投票统计,产生目标的检测分数和最终的目标主方向。实验验证了本文提出的检测方法能检测出具有不同方向的特定类型的目标,有较高的适应性,在阴影和遮挡情况下能保持优秀的检测性能,在复杂背景下优于现有同类方法。(3)为了适应遥感图像中目标不同大小的变化,以及解决目标检测受形似干扰物影响的问题,本文以近岸舰船检测为例,提出了基于姿态加权投票的旋转缩放不变目标检测方法。该方法定义了目标的姿态,并将其用于估计和投票过程中,使检测同时具有旋转和缩放不变特性。为了增加舰船目标和矩形干扰物的区别,首先定义了权重矩阵,为舰船目标模板上的每个边缘像素点赋予权重,尤其对舰船船头V字形结构赋予较大的权重；然后在权重矩阵的指导下进行姿态一致性投票,得出舰船的姿态和票数。为区分舰船目标与具有V字形结构的干扰物,定义了轮廓连续性指标,用于评价检测结果中舰船轮廓的连续程度,并结合投票结果生成舰船目标的评价分数。实验讨论了权值选取和轮廓连续性指标对检测性能的影响,与现有算法对比得出,加权姿态投票方法在近岸舰船检测问题上有更高的准确率和鲁棒性。