大规模MIMO(Massive MIMO,mMIMO)技术被认为是第五代移动通信(5G)当中的关键技术之一。研究结果证明大规模MIMO在提升系统容量、频谱效率和功率效率方面有着极大的作用。大规模数量的天线阵列放置有多种方法,三维的扇区划分更加需要三维的大规模天线阵列来服务。如何在有限的空间资源下有效放置天线是大规模MIMO中的关键问题。无线资源始终是有限的,因此要在有限的无线资源下满足飞速增长的吞吐量需求是未来无线通信系统发展的关键问题。研究证明将单个小区划分成为多个扇区是极为有效和简单的提升系统容量的方法。但是随着扇区数量的增多,空间复用带来的系统性能增益逐渐减小,这是由于多扇区之间的信号干扰造成的。因此如何合理的划分扇区范围以及消除扇区之间的波束干扰问题,是大规模MIMO扇区系统的工程应用中的关键。本文主要基于大规模MIMO技术,探索了三维大规模天线放置方法,智能三维扇区划分方法以及扇区之间的干扰协调方法。三维大规模MIMO天线放置研究中,比较了三种不同三维天线放置下的系统性能,比较得出较为优良的放置方法。接着,创新性的将机器学习中的聚类算法应用到扇区划分当中,提出了一种垂直维度和水平维度的三维扇区智能划分方法,用以提升多扇区系统的平均吞吐量。此外,针对多扇区干扰问题,提出了基于参考信号接收功率(RSRP)的联合传输的扇区边缘用户干扰消除方法。基于RSRP选择受到干扰较大的用户作为联合传输用户,选择干扰较强的扇区基站作为联合传输基站,对用户进行联合传输,从而改进整个系统的频谱效率。论文主要讨论的内容如下:1)分析对比了三面体共形阵列,四面体共形阵列和圆柱体共形阵列的系统性能。并通过对仿真结果分析,得出了圆柱体共形阵列是在相同的空间资源限制下较为理想的放置方法,为后面的三维扇区划分研究奠定工程基础。2)通过分析传统的固定扇区划分方法,提出了固定扇区划分所存在的问题。接着提出了基于聚类算法的智能扇区划分算法。该种方法可以根据用户位置信息,智能地将小区中用户分组,根据每个用户组的位置信息求解服务该用户组的扇区波束指向和宽度,计算最优波束赋形矩阵,使得绝大部分用户处在扇区中心接受服务。以此进一步提升系统的吞吐量。3)在多小区大规模MIMO多扇区系统中,单个小区采用三维扇区划分。在工程实践当中,内外扇区之间和相邻小区之间的波束会产生干扰。因此,文中提出了一种基于RSRP的联合传输(CoMP-JT)的扇区间干扰消除方法。通过选择受到干扰较强的扇区边缘用户,选择对用户干扰较强的扇区基站,通过基站之间的时频资源同步,共同向扇区边缘用户发送有用信号,从而消除干扰信号,极大的提升扇区边缘用户通信质量,从而提升扇区边缘以及整个系统的频谱效率。从仿真结果可以看到,系统整体的频谱效率提升了 10%左右。