终端设备的数量在移动互联网技术的极速发展中呈现出几何增长的趋势,同时业务类型日益丰富,对数据流量和时延的要求也日益提高。为了满足未来无线通信的流量需求,网络将趋于致密化。致密网络即在通信场景中密集部署小蜂窝,每一个终端都可能被多个蜂窝覆盖,所以会产生复杂的关联问题。本学位论文研究的是致密网络中的蜂窝关联问题,即终端与蜂窝如何关联的问题,目标是兼顾网络的系统性能和算法耗时,快速实现蜂窝关联决策。首先提出了一种基于Q学习的蜂窝关联方法,考虑到此方法的耗时仍然较高,进一步考虑将Q学习的决策与自学习能力与深度学习的预测能力相结合提出基于深度Q学习的方法,此方法分为训练和应用两个阶段,训练阶段通过智能体与环境的交互离线训练深度Q网络来拟合的Q值函数,在应用阶段使用被训练好的神经网络自适应获取最优的动作选择策略,即得到最终的蜂窝关联结果。根据仿真结果来看,当场景中的用户数达到万级别时仍可以将耗时维持在毫秒级。进一步考虑通信场景的动态时变性,从宏观上看,实际生活中的场景总是在不断地变化,场景中的用户分布特征不会保持不变而是在动态变化,所以在持续变化的场景中使用同一个训练好的神经网络得到的蜂窝关联结果的系统性能会有较大的损失,因此我们根据相邻场景的相关性提出了一种在保证系统性能损失较小的同时可以快速进行蜂窝关联的算法。根据仿真结果来看,此方法能够在较短时间内完成系统性能较好的蜂窝关联决策。上述方法都是基于单智能体学习的方法,如今多智能体学习在众多领域有着广泛的应用,因此我们也尝试用多智能体学习来解决致密网络中的蜂窝关联问题。提出了一种基于多智能体强化学习的蜂窝关联方法,将每个用户看作是一个智能体,各自通过与环境的交互更新各自的Q表来得到蜂窝关联结果。进一步提出多智能体深度强化学习方法,每个用户维护各自的深度Q网络来指导蜂窝关联。根据仿真结果来看,此方法可以较好地利用多智能体学习方法解决蜂窝关联问题,系统性能和算法耗时与单智能体方法基本一致。