演化计算广泛应用于多目标优化问题,在许多实际的多目标优化问题中,往往存在着多个等价的最优解集,这些解集能够映射到目标函数的最优前沿,这就是多模态多目标优化问题。在决策空间中搜寻多个等价的最优解集不仅能帮助分析问题性质,而且还能为决策者提供更加广泛的解决方案。因此,对多模态多目标优化方法的研究极为重要。本文针对多模态多目标优化问题采用粒子群算法开展研究,主要工作和研究成果如下:粒子群算法的算子选择过程是进化中重要的一个环节,决定哪些个体能参与下一代的进化,选择算子的质量将对优化结果将产生大影响。本文先从算法的选择算子开展研究,提出了一种基于调和平均距离的加权距离度量方法。该方法首先对决策空间和目标空间内点的调和平均距离进行计算,之后对两个空间距离值进行加权。通过和现有拥挤距离方法的比较,验证了此种密度度量方法的有效性。为了满足算法对多样性的需求以及不同时期对探索和开发能力的变化,基于对小生境粒子群的分析,设计出了可以通过邻域切换系数动态调整邻域、指定邻域大小,进而来动态调节粒子群的探索和开发能力的动态拓扑粒子群的优化框架。将其应用于求解多模态问题,仿真结果表明,所提出的算法框架在解决多模态多目标优化问题上具有显著优越性。为进一步拓展解决多模态问题的思路,引入多群粒子群策略,分析了多群策略解决复杂问题的优势。利用亲和传播聚类对种群划分子群,使子种群均匀且集中散布在决策空间;在子种群中使用拓扑邻域来促进子种群内粒子间的信息交流和共享;通过一种概率引导更新的方法,促进信息在子种群之间的传递。仿真研究表明所提出的多种群策略可以用与求解多模态多目标优化问题,具有一定的优越性,能够获取一系列等价Pareto最优解集。