随着移动互联网的蓬勃发展以及各种新兴业务的不断涌现,人们的生活越来越丰富,移动通信逐渐融入千行百业,已经成为当今社会的重要基础设施。与此同时,网络中的流量和功耗也在迅速增加。为了满足未来对于移动通信网络海量连接高速接入的服务要求,毫米波（Millimeter-wave,mm Wave）分布式MIMO系统被认为是赋能未来的重要技术方案。与传统的微波波段不同,毫米波的传输频率更高,路径损耗更大且更易被遮挡。因而传统的信道估计方案与用户调度方案在毫米波频段不再适用。因此本文主要针对毫米波分布式多输入多输出（Multiple Input Multiple Output,MIMO）系统的信道估计和用户调度问题展开研究。首先,介绍了移动通信系统的演进过程以及每一代移动通信系统所采用的主要技术方案。并且本章对当前阶段的第五代移动通信系统（The Fifth Generation Mobile Com-munication System,5G）的发展现状、主要应用场景等展开讨论。接着,针对5G及超五代移动通信系统（Beyond 5G,B5G）中的部分关键问题展开论述,引出了本文所关注的信道估计、用户调度以及波束赋形问题。然后,在第二章中介绍了分布式MIMO移动通信系统基础理论,包括无线信道模型,分布式MIMO系统模型以及MIMO系统中的波束赋形技术,为后文研究的开展奠定了理论基础。在第三章中,研究了基于多重信号分类算法（MUltiple SIgnal Classification,MUSIC）的毫米波信道估计问题。针对毫米波传输的特点,首先将毫米波信道建模为与信道复增益、到达角（Angle of Arrival,AOA）、多普勒频移以及时延扩展的参数化信道。然后利用MUSIC算法构造接收信号的协方差矩阵,根据信号子空间和噪声子空间的正交性,构造空间谱从而进行谱峰搜索,估计信道参数。仿真结果表明,得益于MUSIC算法的超分辨率参数化估计的特点,基于MUSIC算法的毫米波信道估计可以准确的估计信道参数。第四章研究了在考虑用户服务质量（Quality of Service,Qo S）约束,用户调度约束以及远端天线单元（Remote Radio Unit,RRU）发射功率约束限制下的下行分布式毫米波网络中,如何获得负载均衡的用户调度和节能的波束赋形方案的问题。本章中首先建立了系统模型,形成了一个混合整数非线性规划（Mixed Integer Non Linear Programming,MINLP）问题。然后通过使用重加权l1范数技术将非凸约束转化为凸约束。接着通过引入模糊推理系统（Fuzzy Interference System,FIS）,提出了一个模糊逻辑引导的联合负载均衡用户调度和波束赋形优化算法来解决该问题。仿真结果表明,相较于传统的稀疏波束赋形方案,本章所提出的算法可以获得负载均衡的用户调度方案和节能的波束赋形。最后,在第五章中研究了用户调度和波束赋形的多目标优化问题。在未来,用户调度可能会与诸如服务质量、服务成本、远端天线单元的负载、用户设备的移动速度等因素相关。这就意味着在未来用户调度可能是一个多目标优化问题。在本章中,最大化系统吞吐量、最小化系统时延、最均衡RRU负载被选择作为联合优化目标。接着,引入了FIS根据用户的需求推导不同目标函数的权重,以此来建立一个以用户为中心的接入网络。然后,创新性地提出了基因扩展的遗传算法来解决该多目标优化问题。仿真结果表明,本章中所提出的算法可以有效优化毫米波分布式系统地吞吐量,时延和RRU的负载均衡情况。