高维多目标优化问题是指同时优化三个以上目标的问题,广泛存在于实际应用中。演化算法拥有良好的全局搜索能力,在目标维数较低时有较好的求解性能。目标数量增多时,搜索空间变大,演化算法在求解过程中难以兼顾收敛性和多样性,导致求解效果不佳。因此,设计具有良好求解效果的高维多目标演化算法具有重要意义。环境选择是演化算法的重要组成部分,作用是选择适应度较好的个体参与演化。设计合适的环境选择策略可以平衡种群在演化过程中的收敛性和多样性,提升高维多目标演化算法的性能。因此,本文研究高维多目标演化算法中的环境选择策略,改进高维多目标演化算法,并将算法应用到自治水下机器人（AUV）的避障路径优化。主要研究内容和成果如下:提出了一个多样性优先的环境选择策略（DFCS）,用于解决基于帕累托支配关系的算法多样性缺失的问题。该策略中优先采用基于角度的选择来保证演化过程中搜索方向的多样性,从而保持种群的多样性;使用基于收敛度的选择来保证种群的收敛性。三种经典的多目标优化算法NSGA-II、SPEA2、PESA-II嵌入DFCS后,在110个测试问题上进行实验,在83个问题上求解效果得到提升。SPEA2+SDE算法嵌入DFCS后,在119个测试问题上进行实验,运行时间减少一半,在64个问题上求解效果得到了提升。提出了一个基于R2指标的双档案算法Two-Arch R2。针对原双档案算法TwoArch2计算效率低的问题,采用计算效率较高的R2指标更新收敛性档案,提高了计算效率;对于Two-Arch2收敛较慢的问题,将收敛性档案中的优秀个体参与到多样性档案的更新,加快了种群的收敛速度。Two-Arch R2和其他高维多目标优化算法在119个测试问题上进行了对比实验,在81个测试问题上获得最优结果。和改进前的双档案算法Two-Arch2相比,运行时间缩减到原来的1/4,在9个30维测试问题中有8个加快了种群收敛速度。将提出的Two-Arch R2算法用于基于修正导航向量场（MGVF）的AUV避障路径优化。MGVF是AUV航迹规划的常用方法,但缺少对路径优化的考虑,存在较多影响路径质量的参数需要手动设置。本文针对路径长度、路径安全、平滑度和能耗四个优化目标,利用Two-Arch R2算法对MGVF中的相关参数进行寻优,并同其他高维多目标优化算法对比。仿真实验结果表明Two-Arch R2算法在性能指标和稳定性上表现更优。