为了有效提高无线通信系统的峰值数据速率、覆盖范围和用户的通信质量以及小区边界用户性能,LTE-Advanced系统引入了多形态的分层异构网络拓扑,通过在宏蜂窝覆盖范围内添加新的本地小区来缩短基站和用户之间的距离,从而带来更高的频谱效率和频谱复用率。但是作为代价,由于新引入的本地蜂窝节点与原宏蜂窝小区存在覆盖重叠,其会对宏蜂窝小区造成干扰,影响邻近接入宏蜂窝小区的服务用户的用户体验。因此,小区间干扰成为影响LTE-Advanced分层异构网络场景用户性能的关键因素之一。论文的主要工作如下：针对分层异构网络场景中的干扰问题,设计和开发了LTE-Advanced下行系统级仿真平台。平台以标准规范为基础,与业界公认仿真结果进行校准,用以验证后续章节提出的方案和策略。该平台具有良好的可扩展性,能够为LTE-Advanced及其后续演进技术的研究提供完备的仿真验证环境。针对Macro-Femto分层异构网络的参数配置问题,理论分析、研究各参数配置对网络性能的影响,然后基于系统级仿真结果,分析了实际网络中Femto基站参数配置对网络性能带来的影响,包括准空白子帧静默比例、功率降低值以及接入控制策略等。仿真结果表明,各配置参数能够对网络性能带来不同方面的影响,接入控制策略的调整也能改善系统吞吐量和边缘用户体验。在实际网络中,应该结合系统无线环境和Femto基站部署数量及密度,合理配置参数,以优化系统性能。基于对部署有家庭基站的分层异构网络系统容量的理论分析,结合简氏公平性因子在通信系统中的应用,提出一种分布式的动态配置准空白子帧的静默比例的方案。方案利用简氏公平性因子和信道的数学模型,并考虑到了家庭基站用户的服务优先级,推导出作为准空白子帧的静默比例调整前后系统总吞吐量的变化量,以此为依据做出调整决策。仿真结果表明,所提方案能够在避免系统总吞吐量过度降低的同时,有效减少分层异构网络中的同层及跨层干扰,寻找到较优的平衡点。基于软频率复用的思想,研究部署有运营在封闭接入模式下的家庭基站的分层异构网络场景的频率资源划分策略。利用分簇算法,将互相干扰较为严重的家庭基站分到同一家庭基站簇内,然后基于图着色问题的解决方法,在家庭基站簇内分配频率资源,最后利用软频率复用技术,根据用户业务请求,合理划分家庭基站簇和宏基站使用的频带,从而实现对跨层干扰和层内干扰的抑制。仿真结果表明,所提方案能够以较小的系统总体吞吐量的损失,在家庭基站和宏小区边缘用户等方面带来显著提升,有效降低了分层异构网络中的小区间干扰。