随着第四代移动通信系统在全球范围内的普及,下一代移动通信系统的设计面临着频谱资源稀缺的现实问题。毫米波通信依靠丰富的频谱资源在下一代移动通信系统的相关研究中受到了广泛的关注。近年来,毫米波通信技术进入了一个快速发展的时期,针对一些技术性难题,研究人员提出了各种解决方案。在这一过程中,结合大规模天线阵列和波束成形的毫米波移动通信系统设计框架被不断地强化。在此基础上,本论文围绕毫米波信道估计和峰均比压缩方法进行了深入的研究。论文的主要贡献如下：针对大规模天线阵列与波束成形相结合的毫米波通信系统,本文提出了一种新的波束域毫米波信道估计方法。根据射线追踪(Ray-Tracing)模型,首先将毫米波信道矩阵估计问题转化为关于路径发射角、到达角及路径增益的参数估计问题。之后,利用波束域二维多重信号分类(MUSIC, MUltiple SIgnal Classification)空间谱和最小二乘法(Least-Squares)分别估计路径的方向角和增益系数,给出了毫米波参数信道估计算法。最后,对所提方案的可行性进行了论证,重点分析了波束成形对于波束域二维MUSIC空间谱模糊效应的影响,并给出了避免空间谱模糊效应且最大化可分辨路径方向角数量的波束成形设计充分条件。仿真结果表明,与目前基于波束训练及稀疏恢复的毫米波信道估计方法相比,所提出的信道估计方法具有更低的均方误差。为降低大规模天线阵列下通信接收机的硬件成本,本文还提出了一种新的基于低精度(1比特)模数转换器(ADC, Analog-to-Digital Converter)的发射端信道估计方法。量化精度的降低不仅能够抵消毫米波通信带宽剧增对于ADC功耗的影响,而且还有利于降低反馈开销,但是它同时给信道估计问题提出了巨大的挑战。针对这一问题,本文首先介绍了基于1比特扰动量化(DQ,Dithered Quantization)的信道估计方法,然后提出了基于1比特过水平采样(LTS, Level-Triggered Sampling)的信道估计方法。最后,重点分析了所提方法的渐进统计特性,证明了基于1比特LTS信道估计的一致性、渐进无偏性及渐进正态性。仿真结果表明,和基于1比特DQ的信道估计方法相比,基于1比特LTS的信道估计性能更接近于全精度采样情形下的理想结果。以上信道估计方法为获取毫米波信道状态信息(CSI, Channel State Information)提供了可行的备选方案。假设CSI已知,为提升发射端功率放大器(PA, Power Amplifier)的能量转换效率,本文提出了与波束成形相结合的峰均比(PAPR, Peak-to-Average Power Ratio)压缩优化方法。首先,在基于天线子阵列的波束成形方案的基础上,定义了发射端单个PA上的输入信号峰均比。然后分别建立了单天线峰值功率和预处理串扰约束的峰均比压缩优化问题,并推导了所得峰均比压缩方案的平均PAPR上界。最后,论文给出了求解以上峰均比压缩问题的优化算法。所提优化算法的核心步骤均涉及求解一类近端优化(Proximal Problem)子问题,论文通过验证Karush-Kuhn-Tucker条件,证明了所提算法求解该问题的最优性。功率削波影响下的仿真结果表明,和迫零预编码方案相比,本文提出的峰均比压缩方法能够获得更优的峰均比和误比特率性能。