随着移动互联网技术的发展、智能移动终端的普及以及各种新兴业务的崛起,用户对移动流量的需求越来越高,且可用频谱日渐稀缺,这对目前的通信网络而言是一个巨大的挑战。小蜂窝部署灵活,能给用户提供近距离、高质量服务,为提高频谱利用率和提升系统容量提供很好的思路,有望成为新一代通信系统的关键技术。然而,部署小蜂窝会带来许多挑战,包括小蜂窝的规划和管理,以及小蜂窝和宏蜂窝同频组网的干扰问题,因此小蜂窝的协调技术非常关键,也是目前研究的热点。小蜂窝的资源分配是重要的协调技术,包括频谱分配、功率控制和接入分配等,通过合理的资源配置能够有效减少干扰,提升系统的性能。本文研究的是小蜂窝的频谱分配,通过引入分簇和博弈论的思想,优化小蜂窝的频谱分配,提高频谱利用率,降低干扰,提升系统的吞吐量,主要工作包括:(1)在小蜂窝和宏蜂窝共享频谱的两层网络中,提出一种基于分簇和非合作博弈的频谱分配方案。首先,在小蜂窝密集部署的场景下,针对小蜂窝数量多、自主性强、集中管理难度大等问题,提出一种基于K-MEANS的分层聚类算法,根据小蜂窝之间的距离和通信量进行分簇;然后在每个簇的内部,采用部分复用方式,把频谱分成中心频谱和边缘频谱,通过边缘频谱的协调,减少簇内部成员之间的干扰;最后,以每个簇为局中人,建立非合作博弈模型,提出一种基于相关均衡的博弈式频谱分配策略优化算法,通过后悔匹配机制求解博弈的相关均衡。(2)提出一种基于联盟博弈频谱共享算法,每一个小蜂窝作为博弈的局中人,以减少干扰、提高收益为目的结成联盟,联盟内采用时分复用的方式共享冲突频谱,小蜂窝根据对联盟共享频谱的贡献获得对应的收益分成。在联盟博弈框架下,通过设定小蜂窝变换操作以及联盟的优超关系,遍历得到稳定的联盟结构,从而优化小蜂窝网络的频谱分配,提升系统的性能。