室内场景中部署Femtocell(毫微微蜂窝)可以起到宏蜂窝流量卸载、加强室内信号覆盖的作用。Femtocell具有安装方便、自动配置、自动网络规划和即插即用的特点。Femtocell设计应用于增加室内网络容量,通过有线回程接入网络。然而,在网络中部署Femtocell会面临以下几个挑战：(1)网络中多个Femtocell共存会对相邻小区用户产生同层干扰；(2)在Femtocell覆盖区域内,下行链路会对未授权的宏蜂窝用户产生跨层干扰；(3)干扰情况复杂,不同的应用场景中,无法利用统一策略进行干扰管理。因此,在归纳总结了国内外最新研究成果的基础上,本文研究了以下方面问题。(1)针对Macro-Femtocell双层网络中比较复杂的干扰情况,提出了一种划分干扰区域的方法。该方法可以简化干扰管理策略,对场景中部署Femtocell且有指导意义。仿真结果验证了网络中存在同层干扰主导区、跨层干扰主导区和同层-跨层均衡区；(2)针对网关统一管理资源的应用场景,研究集中式资源分配策略。本文改进了以资源块效率最大为目标的集中式动态资源分配算法,传统算法只讨论PRB(Physical Resource Block,物理资源块)分配,随着Femtocell数量增加将降低PRB效率,增加用户接入失败率。新算法分析用户的干扰类型,从用户的角度确定相邻小区的干扰关系,从而达到增加PRB效率的目的。为了获得降低网络能量消耗的效果,在动态资源分配算法的基础上提出能效资源分配算法。在传统的未应用节能技术的Femtocell网络中,家庭用户以RSS(Received Signal Strength,接收信号强度)为接入准则,需要开启网络内所有的Femtocell。新算法可以在关闭部分家庭基站后实现网络覆盖。本文对新算法进行了理论分析和仿真验证,与现有算法相比,提高了平均数据率、PRB效率、和能量效率,并降低了用户连接失败率；(3)针对网关无法统一管理资源、网络类型不同的两种应用场景,研究了一种半分布式资源分配策略。通过计算Femtocell数据率标准差,将网络分为有偏型和无偏型。这种半分布式策略由并行的两个分支组成,分别应用于有偏和无偏网络。制约无偏网络的分簇因子与有偏网络不同,传统的相关聚类算法仅适用于无偏网络,所以为了有效分配系统资源,本文在有偏网络中提出新的聚类算法。半分布式策略在簇内由簇头统一分配子信道和功率,而在簇间平行地进行分配。本文参考最优资源分配结果,提出应用于两种网络的子信道和功率分配新算法,对算法进行了理论分析和仿真验证,证明了这种新算法可以提高无偏网络分配公平性以及两种网络的子信道分配成功率；(4)针对Femtocell独立接入、基站间无法通过中心网关或簇头进行资源分配的应用场景,研究分布式资源分配策略。本文以Femtocell传输功率最小化为目标,提出了一种新的Q学习(增强学习)干扰管理算法,包括合作式和独立式算法。合作式算法中,边缘用户可以与相邻小区用户进行子信道分配信息交互,通过模糊逻辑理论将用户分类,为数据率较高的边缘用户分配与邻小区边缘用户正交的子信道资源,在满足用户数据率要求同时可以实现干扰的分散化。独立式算法根据在Femtocell内部设定的功率最小化分配准则直接分配资源。一方面,新算法可以尽可能满足高数据率边缘用户的要求；另一方面,降低本小区对其他小区用户的同层干扰。本文对合作式和独立式算法进行理论分析和仿真验证,结果显示新算法能够提高网络平均数据率和能量效率。