随着无线通信技术突飞猛进的发展和多样化业务的剧增,有限的网络资源,比如通信所用的有限带宽和功率,显得弥足珍贵。并且在无线业务的飞速发展和可靠、稳定的高数据速率接入网的支撑下,无线数据业务量急剧增加,导致系统通信的需求远远超过系统容量,然而可用的频谱资源有限,因此造成系统的容量覆盖、能量有效性和服务质量性能等降低。近来研究表明,超过70%的移动数据业务发生在室内环境,并且在未来的移动通信发展中还会继续上升,因此将毫微微小区(Femtocell)引入到传统移动通信蜂窝网络系统成为当今运营商和学术界的热点研究问题。本文首先针对Femtocell辅助的双层网络中的子信道分配的问题,采用基于ACA算法的系统模型,将家庭小区密集分布在宏蜂窝网内,在考虑跨层干扰、QoS、和用户公平性的条件下,以最大化所有家庭小区用户的总的传输速率为目标,提出了一种基于蚁群优化算法的资源优化方法来实现系统的资源分配。仿真结果显示,与传统的算法相比,我们提出的资源分配算法不仅能够大大的提高系统吞吐量而且能保证较高的用户间公平性。其次,本文将研究针对共享信道部署含有家庭基站的双层网络中的功率控制问题。首先将上行链路功率控制建立为非合作博弈模型,并且考虑了跨信道干扰来最大化能量效率。通过对跨层干扰的非线性定价得到帕累托改进。同时,基于非合作博弈模型,我们提出一种提供最优定价因子搜索算法的分布式功率分配算法。这是一种基于非合作博弈的跨层干扰非线性定价的针对每个家庭基站效益最大化的一种算法。在算法中我们采用超模博弈来证明此算法纳什均衡的存在性。此功率优化算法通过分布式的实现方式,并且定价参数可通过基站广播给所有的用户终端。仿真结果显示提出的算法和传统算法相比能够在很大程度上提高用户能量效率。最后,本文进行了工作总结并对研究内容提出了有待改善的地方。