现今移动数据业务飞速发展，智能手机、多媒体业务呈持续增长态势，当前无线产业界正面临一个巨大的挑战。无线异构网络被认为是一种最有效、最低成本解决以上需求的信息技术。基于物理层小区架构，无线异构网络混合应用多种发射节点，包括大功率宏基站和小功率基站，例如中继、微小区和毫微微小区等。在指定区域内，布置不同功率的小基站，有效增加了频谱复用率和网络容量。根据蜂窝小区中用户位置不同、业务需求的差异等情况，针对性的接入不同基站，保证小区中心用户服务的同时，也确保了小区边缘用户的服务质量。因而，无线异构网络是一种可以同时快速增加通信吞吐量和服务覆盖范围的强大技术。无线通信网络中进行干扰管理的任务就是最大化网络容量和传输可靠性。有效的干扰管理可以提高无线资源的利用率，保证各种类型业务的服务质量。干扰管理的方法非常广泛，随着无线通信的发展，干扰管理技术也会针对不同的网络和应用场景进行着演进。针对4G网络的干扰管理技术主要包括预编码技术、小区间干扰消除（ICIC）技术等。对于简单的点对点单条通信链路，中继系统是异构网络的基础构型。对基于中继的异构网络进行干扰管理，能够提高单条链路的容量，减小接收信号的误码率，高效地利用有限的频谱资源，提高整个网络的吞吐量。对于实际的移动蜂窝通信系统，基于小小区的通信系统是异构网络的基础构型。由于在每个宏小区中分布了多个小小区，解决了同构网络中存在的“盲点”问题，提高了小区边缘用户吞吐量，并大大提升了整体网络的容量。与此同时，小区间干扰的问题变得更加严重，对小小区进行干扰管理是确保通信服务质量的关键。在双向多跳中继系统的研究中，本文结合双向中继和多跳中继系统，解决了一个远距离用户需要与基站做信息交互的问题。本文使用预编码技术达到干扰管理的目的，以最小化通信两端的均方误差之和为目标，以各中继端的发射功率为约束条件，对预编码设计问题进行了建模。由于原问题的非凸性，本文将原始问题分解为三个子问题，并提出了一个迭代算法求解出最优预编码矩阵。数值仿真表明本文提出的预编码方案有较好的误码率性能，能够有效地抑制信道衰落及热噪声带来的系统干扰，保证了通信质量。在认知无线双向中继系统的研究中，本文进一步拓展传统模型，首要用户对和次级用户对同时通过中继进行信息交互。为了解决主要用户和宏基站受到次级用户对干扰严重的问题，本文设计了两种干扰管理方案。第一种以最小化中继发射功率为优化目标设计了中继的预编码矩阵，使用半正定松弛技术和CVX软件包得到最优解，有效抑制了干扰，同时保障了系统总体的网络容量。第二种以最大化次级用户SINR为优化目标设计了中继预编码矩阵，使用二分迭代算法得到最优解，在消除干扰的同时考虑到了次级用户的通信质量。数值仿真验证了两种干扰管理方案的正确性和可行性，其干扰抑制作用得到了良好的体现，系统容量和通信可靠性得到了提升。在动态TDD小小区系统的研究中，本文研究了动态TDD小小区系统的产生机遇与技术挑战。小小区基站的特征促成了动态TDD传输模式的应用可能，两者的结合更适应于当前及未来通信服务，具有突发性和实时性的特点。面对严峻的干扰情况，本文提出了小区成簇和上行功率控制两种干扰管理方案。通过搭建TD-LTE系统级仿真平台，验证了两种干扰管理算法的有效性，抑制了系统干扰，提升了网络吞吐量。