本文研究一些线性混合模型以及几类重要多元统计分布中未知参数的统计推断问题。对于一般的混合模型,本文利用随机效应方差分量和随机误差方差分量ANOVA估计问的相关性借鉴著名统计学家Rao的协方差改进方法给出了随机效应方差分量的ANOVA协方差改进估计,并证明了在均方误差意义下一致的优于ANOVA估计,Mathew等在含有两个方差分量的混合模型下提出的改进估计是其一特例。一般情况下,混合模型的方差分量都是非负的,因此方差分量的估计也应该是非负的才是合理的估计。在含有两个方差分量的混合模型下,我们首次给出了方差分量的非负预检验估计,并证明了在均方误差意义下一致的优于ANOVA估计。对于含有一个随机效应的混合模型,目前文献中都仅讨论了方差分量的谱分解估计和ANOVA估计等价的充要条件,本文首次给出了方差分量的谱分解估计在均方误差意义下严格的优于ANOVA估计的理论结果,并推广到广义谱分解估计,从而说明谱分解估计不仅较ANOVA估计有更好的统计性质,而且在一类常用的模型下有更小的风险损失。进一步,本文首次将谱分解估计方法推广到多元混合模型下,提出了多元混合模型方差分量矩阵的谱分解估计。同样地,证明了均方误差意义下方差分量矩阵的谱分解估计一致优于ANOVA估计。另外,本文还讨论了混合模型方差分量的检验问题。在广义谱分解估计的基础上,应用目前备受关注的广义p值方法给出了混合模型方差分量的精确检验,通过模拟研究表明此检验方法能够很好的兼顾控制犯第一类错误的概率和功效。对于Panel数据模型,本文分别在均方误差准则和Pitman准则下讨论了回归参数的两步估计、最小二乘估计、Within估计和Between估计的比较问题,特别是,我们得到了在Pitman准则下最小二乘估计一致的优于Between估计这一有意义的结果。我们给出了Pitman准则下,最小二乘估计优于Within估计的一个充分条件,最后又得到了广义均方误差意义下两步估计一致的优于Between估计和Within估计的充分条件,并且这些条件只是和模型维数有关而和未知参数无关的一些不等式关系,因此便于实际应用。我们进一步又考虑了回归系数最小二乘估计相对于最优线性无偏估计的效率问题,应用矩阵意义下Kantorovich不等式的最新理论结果,给出了Panel数据模型回归系数最小二乘估计的范数类相对效率上界的最新结果。在半相依回归模型下,考虑了回归系数的改进估计问题。本文主要应用协方差改进方法,对回归系数已有的一些估计方法作了一系列的改进,并讨论了改进估计的优良性。特别地,对于含有两个回归方程的相依回归系统,我们另辟蹊径提出了新的改进方法,在构造协方差阵的估计时,我们将样本分成两组,则可以得到两个独立的无偏估计,这样在讨论我们给出高阶协方差改进估计的性质时可以降低计算矩的阶数,从而得到更好的小样本性质。另外,我们首次讨论了Pitman意义下两步协方差改进估计的优良性,给出了两步协方差改进估计优于最小二乘估计的充分条件,最后,本文还考虑了具有共同回归系数的相依回归系统的回归系数估计问题,并讨论了其优良性。最后,本文考虑了几类重要的多元分布的参数估计问题。(1)对于非中心Wishart分布的非中心参数矩阵,本文基于通常的无偏估计给出了一系列的预检验估计。在两种不同的二次损失下,我们得到了这些预检验估计一致的优于无偏估计的简单条件,这些条件都只是预检验估计中待定常数的选取问题,因此很容易实现。(2)考虑了带有附加信息的两个多元正态总体均值向量的保序估计问题,将Oono和Shinozaki(2005)给出的一元情况下保序估计的结论推广到多元,并从协方差阵己知和未知两个方面去考虑。当协方差阵已知时,我们提出的保序估计一致的优于无约束极大似然估计;当协方差阵未知时,我们证明了当协方差阵满足一定的偏序关系时,在广义二次损失下我们提出的保序估计一致的优于无约束极大似然估计。(3)鉴于James和Stein提出的非线性压缩思想,目前很多文献将这种方法推广应用于多元正态矩阵均值的改进估计中,提出了很多尺度压缩估计和矩阵压缩估计。本文首次考虑了均值矩阵的修正Stein估计的可容性,指出了具有较小尺度压缩系数的修正Stein估计是不可容许的。本文在修正Stein估计的基础上引进自适应压缩系数,并分别给出了一致的优于Stein估计和修正Stein估计的自适应压缩估计。