密集网络作为面向5G及下一代无线通信网络的关键技术,是一种能解决爆炸式数据增长、海量设备接入以及网络容量高需求的无线组网架构。为了获得该架构所带来的增益,密集网络需要借助先进的传输技术,并合理分配有限的资源,进而升网络的性能。本论文围绕“无线通信密集网络中的传输方案与资源分配研究”这一课题进行了深入研究,分别针对密集网络中能量效率、负载均衡、资源稀缺以及安全通信问题进行了一系列的方案设计,最终实现高用户速率、满足绿色通信和安全通信等目标。具体研究工作和主要贡献如下:1)针对异构网络的能效问题,出了一种基于用户服务质量(Quality of Service,QoS)的以最大化能效为目标的传输和最优功率分配方案。该方案利用正则化迫零(Regularized Zero-Forcing,RZF)波束成形的传输方案来减轻干扰,并在用户的QoS约束和基站的功率约束下对功率进行优化设计。为此,该方案先将原分式问题转换为可迭代求解的减式子问题,再利用连续凸近似方法将减式子问题转换为可直接求解的几何规划问题,最终得到一种可收敛的迭代功率分配算法。数值仿真结果验证了该方案的有效性,并揭示了基站天线数目对系统能效的影响。2)针对MBS端配置大规模天线会给异构网络带来不公平性的问题,出了一种基于最大化用户速率公平性的联合用户接入和功率分配方案。该方案首先考虑非理想信道对网络的影响,并推导了基于信道估计误差的遍历速率的闭合下界,然后考虑如何实现在满足负载和功率约束的条件下,联合设计用户接入和功率分配方案来最大化用户速率的比例公平性。为此,该方案先将原问题解耦成两个独立的子问题,然后分别采用低复杂度方法求解子问题的近优或者次优解,最终获得一种可收敛的交替迭代算法。数值仿真结果显示了该方案能更好地实现用户公平性,还揭示了小基站个数和天线数目的增加可以大幅度的升用户速率的公平性。3)针对超密集网络中存在的负载均衡和资源稀缺问题,出了一种基于以最大化系统频谱效率为目标的以用户为中心架构的联合用户接入和资源分配方案。该方案考虑在基站负载最大和资源有限的约束下,利用图论的方法低复杂度地实现以用户为中心的用户接入和资源分配联合设计,高系统频谱效率。为此,该方案先通过将不可直接求解的优化问题解耦为两个独立的子问题,再分别利用二分图匹配和图染色理论依次有效地求解对应的子问题。数值仿真结果揭示了以用户为中心的簇在允许重叠时的性能要优于不允许重叠时的性能,同时还显示了所设计方案相较于其它对比方案有显著的性能升。4)为了进一步解决超密集网络中的资源稀缺问题,出了一种新型的基于用户聚类的用户接入架构,然后基于该架构出了一种以最大化资源利用率为目标的联合用户接入和资源分配方案。该方案考虑在以用户为中心的架构下,利用一种无监督的机器学习方法–Louvain算法,将不可直接求解的优化问题解耦成以用户为中心的分簇、聚类簇构建以及资源分配设计子问题,通过不同方法求解最终获得一种基于Louvain算法的联合用户接入和资源分配方案。数值仿真结果验证了新型架构的有效性,同时显示了所方案比现有的方案更能有效利用资源。5)针对超密集网络中安全通信和能效问题,出了一种新型的基于物理层安全的用户接入架构,然后基于该架构出了一种以最大化安全能效为目标的用户接入与安全传输方案。该方案在以用户为中心的架构下,分别考虑了不同干扰方案下窃听者信道状态信息(Channel State Information,CSI)已知和未知时的安全传输方案,再借助贪婪式的方法设计以用户为中心的接入方案,同时实现能效用户接入和安全传输。数值仿真结果显示了所方案的有效性,同时揭示了在已知CSI时基站单功能干扰方案的安全能效最优。