大规模天线(Massive multiple-input multiple output,Massive MIMO)和异构网络(Heterogeneous network,Het Nets)是第五代移动通信系统(5G)中的两种关键技术,两者的结合将会极大地提高移动通信系统的性能与服务指标。相比于传统的MIMO异构网络,大规模天线异构网络具有信道随机性趋于稳定、降低用户间干扰及相关性、空间自由度高等特性。但是随着异构网络中天线数目的增加,系统的能耗也随之增加,尤其是在如今倡导绿色通信的背景下,能源效率成为了研究的热点问题。本课题针对大规模天线异构网络系统的能效问题展开研究,主要研究内容如下:首先,本文分析了大规模天线系统的网络架构和优势,介绍了几种在大规模天线异构网络系统研究中的关键技术。为接下来对系统能源效率及其他性能的分析提供理论基础。其次,在构建的大规模天线异构网络多用户场景中,本文针对大规模天线异构网络系统中的用户集中区域(热点区域)的能源效率问题进行分析。利用大规模天线系统的空间性以及联合空分复用(Joint Spatial Division Multiplexing,JSDM)技术,在热点区域构建一环散射模型环境,并利用预编码方案来消除宏蜂窝基站对热点区域的干扰。运用随机矩阵理论,对热点区域用户下行链路的频谱效率和能源效率进行了分析,得到了系统能效的极限表达式。最后通过仿真得到了能源效率和基站天线数、基站发射功率的关系。最后,本文分析了在最大比传输预编码和迫零预编码算法下,大规模天线异构网络系统下行链路的能效问题,推导出两种预编码算法下的系统和速率,构建系统功耗模型,定义了系统能效表达式。比较了在不同条件下,两种预编码方案对大规模天线异构网络系统能效的影响。