快速涌现的无线智能设备和日益增长的数据流量业务,给现有无线网络架构带来了诸多挑战,如由基站部署的密集化引起的系统功率消耗增加等。云无线接入网(C-RAN)作为一种新型绿色网络架构,为现有网络架构中问题的解决提供了可能。且在物联网大规模兴起的大背景下,人与人、人与物、物与物之间的无线连接更加紧密,对高质量信号传输的要求不断提高,挖掘高频的频谱资源成为当务之急,而频率范围在30GHz-300GHz的毫米波成为下一代无线通信系统的关键频段。本论文针对C-RAN架构和毫米波通信,研究了C-RAN中的能效预编码优化、C-RAN与毫米波MIMO相结合系统中的联合用户调度及混合预编码设计和无线接入网中的两阶段传输机制,主要工作如下:1、详细地介绍了C-RAN的架构模型和毫米波无线通信系统中的混合预编码技术。基于C-RAN架构的功能分区,着重阐述了完全集中式和部分集中式两种处理方式,紧接着研究了毫米波MIMO系统中全连接型和子阵列型两种混合架构。2、针对C-RAN中先预编码后量化(CAP)和先量化后预编码(CBP)两种压缩量化方式,研究了最大化能源效率的预编码优化问题。首先,通过分式规划和逐次凸近似方法将原始非凸问题转化为具有可求解形式的凸优化问题。其次,提出了一种可证明收敛的迭代优化算法。仿真结果表明,所提算法的能量效率相较传统优化算法有很大提升,且当CAP和CBP量化策略中的远端射频头(RRH)进行相同的用户调度,CAP的能量效率优于CBP。3、研究了毫米波系统中多输入多输出(MIMO)C-RAN架构下,联合用户调度及混合预编码设计问题。所考虑的优化问题的优化变量间相互耦合且约束条件非凸,为了解决此优化问题,本章提出了一种分层优化算法。首先,进行联合模拟波束及用户调度,提出了三种低复杂度的调度算法。然后,基于前一阶段获得的调度用户和相应的模拟预编码,通过半定松弛和凸近似方法求解数字预编码。仿真结果表明,所提算法以较低的复杂度能够获得穷举算法的大部分和速率,且在高发送功率区域算法3采用混合预编码获得的和速率性能有效地逼近纯数字预编码。4、研究了缓存使能雾无线接入网(F-RAN)架构下的混合传输机制,将整个传输过程分为两个阶段。首先,针对第一阶段的缓存级传输,提出了以调度用户和速率最大化为准则的集中式和分布式预编码优化算法。然后,针对第二阶段的网络级传输,提出了以所有用户和速率最大化为目标的集中式预编码优化算法。仿真结果表明,在缓存级传输阶段各RRH间互不交换信息的前提下,分布式优化算法的和速率性能接近集中式优化算法。