随着无线终端和移动互联网的普及,急剧增长的无线网络用户流量需求成为5G（the fifth generation,5G）网络需要解决的重要挑战。异构蜂窝网络（heterogeneous cellular network,HCN）作为一种新型的分布式网络架构,其通过在传统蜂窝网络中密集部署低功耗、低成本小基站,极大地提升了频谱利用率和网络容量,并且改善了用户的服务体验,因而,成为应对5G网络热点高容量等重要场景的有效技术。由此,这一架构也被公认为可以有效地解决未来无线网络流量的爆炸式增长。在异构蜂窝网络中,不同类型的基站数量大,传输功率及覆盖范围差异明显,因此,用户的接入选择将极大地影响自身的服务质量（quality of service,QoS）,甚至多用户场景下的全网性能。具体而言,一系列与之相关的问题亟待解决,例如:基站和用户之间如何有效地进行关联、不同类型基站间如何实现负载均衡、各类基站的资源分配问题以及对用户QoS的保障等。此外,与传统蜂窝网络相比,异构蜂窝网络中大量增加的小基站及小小区（small-cell）也给整个网络的无线回程链路造成了巨大的数据传输压力;而与之相对应的,无线回程带宽分配也极大地影响着包括宏小区（macrocell）和小小区在内的整个网络性能。基于以上异构蜂窝网络中存在的挑战,本文将探讨利用优化方法解决不同场景中的用户关联和资源分配问题,从能效（energy efficiency,EE）、频效（spectral efficiency,SE）优化的角度,设计并获得有效的用户关联（user association,UA）及网络资源分配（resource allocation,RA）方案,具体研究内容分以下两个部分:1.基于能效与频效折中的用户关联与资源分配。本部分首先以异构蜂窝网络下行链路能效与频效为主要网络性能指标,通过解决用户关联与功率分配的联合优化,寻找该网络架构中能效与频效的最优折中。以此为目标,本文以全网能效为优化目标,以最小全网频效为约束条件,构建优化问题。此外,为了保证网络中用户关联的负载均衡,该优化问题对不同层小区所允许接入的最大用户数进行了约束。数学上,该优化问题属于非凸的混合整数非线性规划（mixed-integer nonlinear programming,MINLP）问题。本文采用Dinkelbach方法,将优化问题转化为分数规划问题（fractional programming problem）。在证明了新问题属于凸优化问题基础上,本文采用对偶分解法获得了最优的用户关联与功率分配解。基于最优解,本文提出了一种联合用户关联与功率分配算法。数值结果表明,该算法在收敛性和有效性上与基准算法相比有明显优势。2.回程感知的基于效用能效（utility-energy efficiency,UEE）优化的用户关联与资源分配。在该部分中,本文以全网效用能效为优化目标,在考虑回程链路对全网性能影响的前提下,研究了下行链接无线回程带宽分配、用户关联与功率分配联合优化问题。具体而言,本文将这一联合优化问题分解为两部分:1)基于用户遍历速率的联合无线回程带宽分配与用户关联优化问题;2)回程容量约束下的各基站下行链路功率分配问题。针对这两个子问题,本文采用Dinkelbach方法对其进行转化,并通过放宽变量取值区间、优化变量替换等方法,将其转化为凸优化问题;在此基础上,本文分别提出了两个迭代算法,分别获得最优的联合回程带宽分配与用户关联方案,以及传输功率分配方案。数值分析结果验证了算法的收敛性和有效性。