随着雷达、红外等传感器分辨率的不断提高,扩展目标跟踪(Extended target tracking,ETT)技术在反导、预警、制导以及战场监视等军事应用中的作用日益凸显。对于复杂环境下的ETT问题,由于传感器获得信息量(包括目标的观测、大小、形状和方向等)的增加,需要在估计目标运动状态的基础上增加扩展状态估计,以完善传统的点目标滤波模型。然而,仅考虑目标运动状态和基于数据关联的传统点目标跟踪方法因模型不匹配和计算复杂度过高而不适用,难以充分发挥高分辨率传感器的优势。本论文以随机有限集(Random finite set,RFS)和随机矩阵为理论基础,开展ETT方法研究,重点解决量测集划分、混合约简、目标形状建模等关键问题,为满足复杂环境下ETT应用提供理论和方法支撑。取得的主要成果如下:1.扩展目标高斯混合PHD(Extended target Gaussian mixture PHD,ET-GM-PHD)滤波中,精确的滤波更新需要当前量测集的所有可能划分,显然其计算不可行。为此,提出一种快速模糊ART(Adaptive Resonance Theory)划分方法,该方法采用一个模糊ART模型代替现有的距离划分。模糊ART划分中,当前量测集的划分子集通过不同的警戒参数产生。然而,当警戒参数取值较大时,采用模糊ART划分的ET-GM-PHD滤波会出现势过高估计问题。此外,当目标空间邻近时,该滤波会出现势过低估计问题。为了合理处理势过高估计和势过低估计问题,分别提出势过高估计处理机制和模糊ART次划分方法。仿真结果表明,模糊ART划分方法能很好地处理空间邻近的扩展目标,并在保证跟踪性能的同时有效减少计算时间。2.相比于ET-GM-PHD滤波,扩展目标高斯逆威沙特PHD(Extended target Gaussian inverse Wishart PHD,ET-GIW-PHD)滤波同时考虑了目标的运动状态和扩展状态。类似于ET-PHD滤波和ET-GM-PHD滤波,该滤波在实现时也存在量测集划分问题。然而,对于分裂跟踪场景,当两个或多个大小不同的扩展目标空间邻近时,ET-GIW-PHD滤波会出现势过低估计问题。为此,结合模糊ART和贝叶斯理论,提出一种新颖的鲁棒贝叶斯划分方法。该划分方法中,类的分布形状随量测向量的输入不断更新,最后得到空间中量测的准确分布形状信息。由于贝叶斯划分考虑了类的形状信息,所以对大小不同且空间邻近的扩展目标具有潜在的优势。仿真结果表明,该划分方法的跟踪性能优于现有的划分方法,具有良好的应用前景。3.ET-GM-PHD滤波中,高斯混合(Gaussian mixture,GM)分量数目N随时间呈指数增长。为了使N保持在一个计算可行的范围内,需要进行高斯混合约简。为此,提出一种基于模糊ART的高斯混合约简(GM reduction based on the fuzzy ART,GMR-FART)算法。该算法与模糊ART的结构类似,但是其选择函数、匹配函数以及学习更新式是通过高斯混合特征定义的,其性能采用归一化积分平方距离(Normalized integrated squared distance,NISD)测度来评价。仿真结果表明,所提算法形成的约简混合能很好地近似原始混合,且所需要计算时间少。4.ET-GIW-PHD滤波中,为了同时估计目标的运动状态和扩展状态,Granstr?m等人采用高斯逆威沙特(Gaussian inverse Wishart,GIW)混合近似目标状态的后验概率密度函数。类似于高斯混合,GIW混合也需要约简。为此,提出一种加权KL(Kullback-Leibler)距离,该距离充分考虑了GIW分量的权重信息,较现有的KL距离更加合理有效。另外,针对GIW混合约简,提出一种全局距离测度评价准则。该准则反映了原始和约简GIW混合间的偏差,可通过求解NISD得到。最后,仿真实验验证了加权KL距离的有效性,结果表明,所提评价准则(NISD)能正确地描述曲线分析结果。