为了满足人们指数型增长的数据流量需求,移动通信技术也从2G(2nd Generation,第二代移动通信技术)发展到3G(3rd Generation,第三代移动通信技术)再到LTE-A (Long Term Evolution-Advanced,先进长期演进)。然而,在带来更高的数据吞吐量以及网络响应速度的同时也带来了各式各样的干扰问题。一方面,LTE-A信号处于高频段,路径损耗和穿透损耗值较高,为保证良好的无线覆盖质量,无线小区的部署将比以前更密集；另一方面,Femtocell(家庭基站)与宏基站、Relay(中继)与收发信机均采用同频组网,小区的密集部署会带来更为严重的跨层与同层干扰,从而降低移动通信质量。因此,如何抑制干扰,已成为现今移动通信领域的研究热点。本文主要针对IMT-A (International Mobile Telecommunication Advanced,高级国际移动通信)异构无线网络中的干扰抑制方法进行了研究。本文针对IMT-A系统中的异构无线网络,详细分析了Femtocell异构无线双层网络和Relay双向中继网络中的干扰问题,提出了家庭基站双层网络中基于凸定价的上行功率控制策略和双向中继网络中联合中继选择和功率分配方法。主要内容如下：针对家庭基站双层网络的上行链路,提出了一种家庭基站双层网络中基于凸定价的上行功率控制方法,从而最大化系统容量并提高网络能效。该功率控制算法由四部分组成：首先,在保证宏基站用户的最低SINR要求下,宏基站选择适宜的干扰容限,最大化自身效益；其次,家庭基站用户通过选择合适的发射功率来最大化自身容量,并考虑家庭基站用户之间的公平性；然后,建立非合作博弈模型,同时为提高博弈效率,引入凸定价机制；最后,验证了纳什均衡解的存在性和唯一性,对满足功率限定值的用户进行动态自适应功率分配,直至得到最优策略。仿真分析结果表明该方法能够减小家庭基站双层网络的同层干扰及跨层干扰,同时提高网络能效。针对双向中继网络中的中继选择及功率分配问题,提出了一种双向中继网络中联合中继选择和功率分配方法。相对于单方面考虑中继选择或者功率分配问题,本方案考虑更全面,抑制了双向中继网络中的干扰。该功率分配方案由三部分组成：首先,从两个源节点端得到各自的SINR,从而推导出整个传输过程的系统中断概率和系统容量；其次,以网络的总传输功率约束条件,以系统中断概率和系统容量的线性加权为目标函数；最后,在满足总传输功率限制的条件下,对两个源节点和中继节点进行动态的自适应中继选择和功率分配,直至得到目标函数的最大值。