随着室内移动数据业务快速增长,为提高室内用户通信质量,增加室内无线信号覆盖面积,Femtocell技术应运而生。但Femtocell网络的出现,会对传统Macrocell网络造成跨层干扰。并且随着Femtocell用户数目持续不断地增加,系统的共层干扰也日益严重。而频谱资源的稀缺性让干扰变得更难处理。合理的频谱管理技术成为研究的一个热点。功率也是影响系统性能和干扰的一个重要因素,高发射功率能增加吞吐量但会导致大干扰,而低发射功率不能达到可观的数据传输速率。所以功率管理技术也是提高系统性能、减少干扰的手段。针对上述两层Femtocell和Macrocell网络中存在的情况,本论文重点研究了 Femtocell网络下资源优化技术。本文的主要工作和创新点概括如下:(1)基于保证干扰门限的频谱资源分配方案研究。针对Femtocell网路下行链路场景,本论文提出一种基于经典图着色算法和保证干扰门限的频谱资源分配方案,避免了用户之间严重的共层干扰。该方案利用经典图着色算法,建立干扰图,避免相邻用户占用相同子信道。为了提高频谱利用率,提升系统性能,在图着色基础上,本论文进行频谱再分配方案。在第一步频谱分配过程中,实现用较少的子信道分配给较多的用户,相邻用户不能占用相同子信道。在第二步频谱分配过程中,基于干扰门限,给干扰较小的用户分配信道。并且为了提高系统公平性,给一定干扰范围内的用户优先分配子信道。仿真结果验证了本文提出方案的性能。仿真结果显示本文提出的方案能提高网络吞吐量,增大频谱利用率,保证系统公平性。(2)具有认知能力的Femtocell网络频谱和功率分配方案研究。针对两层Macrocell和Femtocell网络上行链路场景,本论文提出了一种具有频谱认知能力的联合频谱和功率分配方案,为Femtocell用户选择合理子信道,保证宏基站正常通行,合理管理发送功率,提升系统性能。在子信道选择方面,Femtocell网络结合认知无线电技术,灵活地占用Macrocell网络空闲信道和跨层干扰小的信道,又结合经典图着色原则,合理选择频谱资源。本文将频谱和功率管理建模成联盟组建博弈的划分形式机制。用户可以自主离开当前联盟或加入新联盟,基于文章提出的增加系统吞吐流量并保证个体用户不受损的原则。通过递归地组建每次的联盟核心,最后博弈会收敛到递归核心。为了保护宏基站正常通信,在Femtocell用户端发送数据流采用M/M/1队列模型,防止数据堵塞和通信延迟。仿真的结果表明,所提出的频谱和功率分配方案能提升网络吞吐量。较其他方案,本方案在用户密集的场景下也能维持良好的性能。