随着移动通信业务的不断扩大，有限的频谱资源和不断增长的系统容量需求之间形成了矛盾。在实际通信中广泛存在的多径干扰、多址干扰、信道衰落等对系统性能和容量产生了严重的影响，如何对抗衰落和干扰，提高频谱利用率，在保证通信质量的前提下扩大系统容量，成为无线通信业务亟待解决的问题。作为智能天线关键技术之一的自适应阵列信号处理正是解决上述问题的关键。智能天线技术给移动通信带来的优势是目前任何技术都难以替代的。目前，国际上已经将智能天线作为B3G/4G移动通信技术发展的主要方向之一[1]。　　 论文在深入研究了前人提出的鲁棒波束形成算法的基础上，针对传统算法在实际环境中存在的不稳定因素进行基于经验贝叶斯方法的鲁棒性改进，并把改进算法运用在MIMO系统中以提高系统性能。具体的研究工作如下：　　 1.针对信号波达方向不确定会导致传统鲁棒波束形成算法性能下降的情况，提出基于经验贝叶斯的鲁棒波束形成算法。经过Matlab仿真，验证了该改进算法在非理想因素的实际通信中仍具有良好的鲁棒性。　　 2.严格按照3GPP协议标准，对LTE系统的实际通信环境进行Matlab仿真，模拟出三种不同场景的蜂窝小区空时MIMO信道环境。并在此链路基础上，针对TDD-LTE系统中存在导致系统性能下降的符号间干扰(ISI)和共信道干扰(CCI)、两相邻小区不同步或上下行信道分配不一致所导致的小区间干扰问题，运用智能天线波束赋形技术以消除小区间干扰、减少系统中的干扰扩展(以载干比(C/I)的提高来换取系统容量的增加)。经过系统级仿真，不仅再次验证了本文提出的改进算法的优越性能，而且证明将此技术运用在实际通信系统中提升系统容量的可行性。