近年来,混合效应状态空间模型在稀疏纵向数据下的研究,已经引起了来自不同领域的研究人员的关注.状态空间模型是一个基于动态数据的时域分析模型,以时间为独立变量,是时间序列数据的分析的一个有力的工具.纵向数据是现代统计学中的前沿问题,主要分析方法是混合效应状态空间模型.本文以含有未知参数的非线性混合效应状态空间模型(NLMESSM)为基础,以目标跟踪为例,通过模拟产生的稀疏纵向跟踪数据为研究目标的动态化提供非常有用的信息.基于该非线性混合效应状态空间模型,通过序贯重要性重抽样(SIR)算法和辅助粒子滤波(APF)算法对模型的状态变量进行估计,并且对模型中的未知参数进行估计.本文对基于非线性混合效应状态空间模型的状态估计和参数估计进行了研究,主要工作如下:1.首先介绍了状态空间模型的研究框架和国内外研究现状,并阐述了状态空间模型和混合效应模型的定义.在线性状态空间模型的前提下,对于处理复杂的稀疏纵向数据引入了卡尔曼滤波算法的理论基础.2.然后对于非线性状态空间模型的估计问题,介绍了粒子滤波方法及其三个处理技巧.经过分析算法总结出它的优点在于易于抽样而且计算简单,缺点是它不受观测值的影响,抽样具有盲目性,导致权重比较大的粒子可能会丢失,致使留下的大部分是权重小的粒子,这样不利于逼近真实的后验密度.通过改进算法介绍了辅助粒子滤波,它克服了盲目抽样的缺点,每个时刻与观测值进行同时更新,使得产生的粒子具有较高的质量.3.最后将一个目标跟踪的实例转换为非线性混合效应状态空间模型的形式,在研究对象分别为单目标和多目标的前提下,基于观测所得的纵向数据,选用序贯重要性重采样(SIR)算法和辅助粒子滤波(APF)算法进行状态估计,并讨论了单目标参数估计.经过对以上结果的误差分析,对比两种算法在实践中的优缺点,并通过改变影响因素来提高算法的精确度.