全球信息化和海量信息的传输需求,推动着通信技术的飞速发展。物理层中的调制解调模块作为通信系统的基础和关键模块,对整个系统信息传输的准确性产生着重要影响。其中,星座图映射是符号调制的必要步骤,其性能的优化对解调效果的提升起着至关重要的作用。目前LTE系统中常用的星座图为归一化QAM均匀星座图,而在AWGN信道条件下,均匀的星座点分布并非最优,若采取某种算法使均匀星座图分布得到优化,可以使得系统在相同的信道和参数条件下,获得更好的解调误码率性能。现如今,非均匀星座调制已成为3GPP讨论的关键技术之一。若想进一步提升非均匀星座图的性能,需要从具体的实现算法入手,而目前很少有文献对非均匀星座图的具体优化算法和实现进行阐述。本论文基于以上背景,对非均匀星座图的优化方案进行研究与设计,完成的主要工作和达到的仿真效果如下:(1)设计基于遗传算法的非均匀星座图优化方案,对方案中的选择算子、交叉算子和变异算子等关键模块进行详细设计与改进,确定最优的算子类型。对调制阶数的影响、适应度函数算法类型等进行研究与改进。最终确定最佳参数配置,并针对解调误码率性能进行仿真加以验证。在最佳参数条件和AWGN条件下,优化后的非均匀星座图误码性能提升约4-5个百分点。(2)设计基于粒子群算法的非均匀星座图优化方案,对惯性权重系数、学习因子以及调制阶数等因素的影响进行研究,对粒子群位置更新算法以及最佳历史位置更新等模块的设计与改进进行了详细阐述,并针对解调误码率性能进行仿真加以验证。在最佳参数条件和AWGN条件下,优化后的非均匀星座图误码性能提升约3-4个百分点。(3)对不同非均匀星座图优化方案进行比较,并比较了两种群智能算法与梯度下降算法之间优化结果的异同。本文研究,可以为以后非均匀星座图优化方案的进一步改进以及非均匀星座图性能的进一步优化做参考,具有有效性和实用性。