随着视频业务的兴起,移动流量需求飞速增长,无线通信系统需要实现千倍的网络容量增长。为了实现上述目标,许多先进技术如大规模输入输出（Mas-sive Multiple-Input Multiple-Output,massive MIMO）、毫米波（Millimeter Wave,mmWave）等得到了广泛研究。然而,高频的mmWave信号路损值极大,极易被障碍物阻挡;massive MIMO配备了大量的天线与射频（Radio Frequency,RF）链路,带来了极高的硬件成本与能耗。因此,上述技术仍然存在高能耗与成本、应用场景有限等问题。为了解决上述问题,本文采用了透镜天线阵列技术与智能反射表面（Intelligent Reflecting Surface,IRS）技术。具体来说,透镜天线阵列由电磁透镜和放置在其焦点曲面处的天线阵列组成,能在保证通信质量的同时降低RF链路数目;IRS是一块由大量可调控反射元件组成的人造表面,通过合理地调控反射元件,能改变经IRS反射出去的信号的电磁特性。由于IRS无需RF链路、信号处理链路,因此IRS能在低能耗的前提下,重构无线环境、提升通信质量。结合两者,本文设计了高效的IRS-Lens-mmWave系统:在基站部署透镜天线阵列来减少RF链路数并保证通信质量;同时,在基站与用户之间部署IRS来协助反射信号,从而绕开障碍物。为了充分发挥IRS的可调控特性与透镜天线阵列的能量聚焦特性,需要设计联合优化算法。而为了算法的有效部署,需要首先获取IRS-Lens-mmWave系统中相关的信道状态信息（Channel State Information,CSI）,即解决信道估计（Channel Estimation,CE）问题。针对IRS-Lens-mmWave系统的CE问题,本文设计了基于超分辨率（Super-Resolution,SR）神经网络的 CE 算法。为了解决大反射元件数目带来的时延问题,本文提出了基于部分开关的最小二乘（Least Square,LS）估计。在上行导频传输阶段,依次打开部分元件,并根据用户发送的导频信号进行LS估计,获取系统级联信道矩阵的估计值。之后,采用线性插值算法进行维度补全,得到初步估计矩阵,并将其视作低准确度的二维图像。为了充分利用二维图像的行列相关性,本文采用SR神经网络提取二维图像的相关特征,增强CE性能、提升估计准确度。仿真结果显示,与对比算法相比,本文算法能取得更好的估计性能,且基于本算法获取的CSI,能取得更好的IRS优化结果。针对IRS-Lens-mmWave系统的能效最大化问题,本文提出了基于交替优化的能效最大化算法。对于固定的波束成形（Beamforming,BF）矢量,基于分式规划、半正定松弛等技术将原问题转换为凸问题来求解最优的IRS相位配置;对于固定的IRS相位配置,采用迫零预编码将关于BF矢量的优化问题转换为对功率的求解。对于有限的RF链路数限制,本文通过基于功率的天线选择算法来处理。仿真结果显示了本文提出的IRS-Lens-mmWave系统及能效最大化算法能在各参数下,取得优于对比算法的能效性能。