随着移动通信用户数量的激增,用户对无线通信数据传输速率和系统容量等需求不断增长,低频段的频谱资源已无法满足人们的需求,而毫米波凭借其丰富的带宽资源吸引了人们的注意。毫米波与大规模MIMO-OFDM技术的结合可解决毫米波通信中严重的路径损耗和选择性衰落问题,并提高系统容量、频谱利用率、以及抗干扰能力。为了充分利用大规模天线阵列的定向增益,收发机需要利用信道状态信息设计波束赋形和预编码矩阵,但毫米波信道的稀疏性和大量的天线数量增加了信道估计的复杂度。同时在上行导频训练阶段,当发生导频欺骗攻击时,会导致基站错误地估计用户的信道状态信息,在下行数据传输时容易造成基站与用户之间的信息泄露。针对上述情况,本文主要研究毫米波大规模MIMO-OFDM通信系统的安全信道估计问题,取得了以下研究成果:(1)首先,针对具有频率选择性衰落的宽带毫米波通信系统提出了一种可分解的三维原子范数最小化(ANM)的上行信道估计算法。根据毫米波信道的稀疏特性,以及信道矩阵由信道参数(到达角、出发角和时延)的正弦向量叠加而组成的结构,可将信道估计问题视为三维线性谱估计问题。利用三维ANM算法求解该信道估计问题可获得高分辨率的信道参数和信道矩阵,为降低三维ANM信道估计算法的计算复杂度,将信道估计分为两步进行,首先利用解耦的二维ANM求解毫米波大规模MIMO系统的信道估计问题,其次利用一维ANM求解OFDM系统的信道估计问题。仿真结果证明,所提算法的估计准确性优于其他算法,且所提算法的计算复杂度与三维ANM相比得到了明显的降低。(2)其次,针对通信系统中恶意用户产生的导频欺骗攻击,提出了相应的检测算法和信道状态信息的恢复方案。本文提出一种适用于多径信道的基于随机矩阵原理的检测算法,该算法通过分析接收信号的噪声子空间中特征值的分布特性从而判断导频欺骗攻击的存在。当检测算法得出导频欺骗攻击存在的结论后,为消除导频欺骗攻击带来的危害,本文提出了基于差分自回归移动平均模型和长短时记忆模型的信道参数预测方法,能够根据信道参数的历史值有效地预测当前的信道状态信息。仿真实验表明,所提导频欺骗检测算法能在恶劣的信噪比条件下实现精准检测,其性能优于其他检测算法;所提的两个信道参数预测方法均能有效地恢复短期内的信道矩阵。全文共五章,图25幅,表9个,参考文献67篇。