随着网络信息化时代的到来和科学技术的快速发展,移动数据流量呈现出爆炸式增长模式,而频宽资源的有限性成为制约无线网络快速发展的瓶颈。所以,更加高效利用未被充分使用的频带资源变得至关重要。组播技术通过向多个接收方传送相同的信息流方式,可以减少具有多个接收方同时收听或查看相同资源情况下的网络通信流量,比如体育赛事的现场直播、软件的定期更新和广告推送等实际应用就可以大大减少所需的带宽。不仅如此,毫米波系统能够提供30G-300GHz的带宽范围,这能够在很大程度上缓解目前带宽短缺的现状。因此,研究毫米波通信系统和组播技术的结合(即毫米波多组组播通信系统)意义重大。本文在充分了解目前国内外关于组播技术、毫米波通信以及毫米波多组组播通信系统的研究现状前提下,主要做了如下几个方面的工作:(1)针对交替优化方法不能保证收敛到静态点的弊端和罚函数法会使目标函数趋于病态的弱点,提出利用惩罚对偶分解(Penalty Dual Decomposition,PDD)算法来解决带有耦合约束的非凸问题。PDD算法的核心步骤涉及到利用BSUM算法求解由AL问题分解而来的子问题,并采用约束的违背程度作为衡量PDD算法在乘子法和罚函数法之间自适应切换的准则,这样做的好处是为了能够找到一个合适的惩罚系数来保证PDD算法的收敛性。通过求解非凸非光滑问题的最优性条件,理论上证明了PDD算法在Robinson条件下的Karush-Kuhn-Tucker收敛性。最后,为了扩展算法的适用性,对基本的PDD算法中对偶变量和惩罚系数的更新方式做了改进,并给出了改进算法的KKT收敛性证明。(2)针对毫米波多组组播通信系统中的传输功率最小化问题,提出了一种基于PDD算法的波束成形方案。考虑到目标函数和信干噪比函数中都具有变量之间的高度耦合,首先通过引入新的变量进行解耦,并对原始问题进行等价变换;其次,借助梯度下降法和块坐标下降法分别求解由增广拉格朗日函数分解而来的子问题;最后,对所提方案的可行性进行仿真验证。实验结果表明,本文所设计方案在解决传输功率最小化问题当中能够达到非常快的收敛速度和较低的复杂度。(3)针对毫米波多组组播通信系统中最大化最小公平(Max-Min Fairness,MMF)问题,设计了一种基于PDD算法框架的混合波束成形方案。考虑到该问题的非凸性,利用约束凹凸优化思想和BSUM算法将增广拉格朗日函数分解成多个变量的子问题,进而分别设计简单算法求解。同时,本文还设计了采用全数字预编码的最大化最小公平问题优化方案。采用全数字预编码的MMF问题,可以进一步等价转化成数字预编码和耦合变量的联合优化问题,然后基于AL函数的上界和问题本身的结构得到了低复杂度设计算法。最后通过仿真验证了本文设计的混合预编码方案可以有效保证各组用户的速率公平性,且与传统全数字预编码方案相比,性能非常接近;除此之外,实验还验证了本文设计的全数字预编码方案在收敛性和低复杂度方面要优于传统的半正定松弛算法和惩罚连续块坐标最小算法。