大规模多输入多输出(Multiple-Input Multiple Output,MIMO)作为5G核心技术之一,极大的提升了系统的空间复用增益和空间分级增益,满足了移动业务指数性增长。在终端数量快速增长的同时,大规模MIMO系统容易出现基站端过载,小区边缘存在覆盖盲区的问题。另一方面,D2D(Device-to-Device,D2D)技术使得两个附近的设备能够不经过基站而建立直接通信链路,在蜂窝系统的控制下将D2D通信技术引入大规模MIMO系统中,有利于解决基站过载、降低通信时延、减少覆盖盲区和提升系统频谱效率等优势。但是,D2D用户复用蜂窝资源的同时加剧了大规模MIMO系统导频开销,导致出现严重的导频污染,因此如何设计合理的导频复用方法成为大规模MIMO系统中引入D2D技术待解决的首要问题。基于上述问题与挑战,论文首先介绍了大规模MIMO单小区的导频复用,然后重点研究了大规模MIMO系统中引入D2D通信后的频谱效率、导频复用等问题,论文的主要贡献点和创新点总结如下:1.首先介绍了在大规模MIMO系统单小区内导频复用的情况,为大规模MIMO系统中D2D用户的导频分配奠了良好基础。具体的通过利用射线跟踪的信道建模方法对MIMO信道进行建模,当复用相同导频的不同用户,其到达角(Angle of Arrival,AOA)的区间不相关时,导频污染消失。从而证实了大规模MIMO信道上实现导频复用的可行性。为大规模MIMO-D2D异构网络中导频复用提供相应的理论基础。2.研究了在大规模MIMO-D2D异构网络中基于加权图的导频复用算法。为了减少频率开销同时减轻导频污染的影响,D2D复用了蜂窝用户的正交导频序列。受图着色算法的启发,我们将基于蜂窝用户之间的距离构建干扰图。这将可复用导频序列进行了限制。此外,分配D2D用户使得具有相同导频序列的用户之间AOA不重叠,从而使得用户之间的干扰减小。在我们的方案中,D2D用户之间也可以复用相同的导频,在组合方面是灵活的,并且提高了信道估计精度。使得系统整体的频谱效率也所提升。3.研究了在大规模MIMO-D2D异构网络中基于卷积神经网络的导频复用系统。为了减小导频污染影响。通过将信道误差作为代价函数,建立卷积神经网络的导频分配系统(Convolutional Neural Network Based Pilot Allocation Scheme,CNN-PAS)。首先,通过穷举搜索得到训练数据集。然后,通过分析训练数据集。所提出的CNN-PAS能从所产生的推断函数中提供给定D2D用户位置的最优导频复用结果。随着样本数量的变化,利用所产生的推断函数,将D2D用户分配近似最优的导频结果。仿真结果表明,该方案实现了近98.78%的理论上限性能。