遗传算法是由美国自动控制论专家Holland于1975年提出的一种基于生物进化论及孟代尔基因遗传理论的搜索型优化算法,遗传算法主要是借鉴物种进化思想,从一组随机生成的初始可行种群出发,借助选择、交叉、变异等遗传操作,逐步逼近所研究问题的最优解。这种方法避开了所研究问题的复杂数学特征,对目标函数没有特殊的要求。但随着科学技术的发展,所研究问题规模的不断扩大,以及复杂度不断增加,对遗传算法求解质量和运行速度都提出了更高的要求,遗传算法在处理这些问题时的“未成熟”收敛性以及收敛解精度不高等方面的缺点暴露出来,该问题制约了遗传算法在复杂系统优化问题中的应用。本文针对遗传算法存在的这些问题作了相应的研究。首先针对基本十进制编码遗传算法在求解复杂系统优化问题,尤其是寻优范围大、精度要求高的优化问题时经常出现的“未成熟”收敛及收敛解精度不高等缺点,结合生物进化的基本特征,从结构化和可视化的角度出发,提出一种变异准则函数,建立了一类基于复合变异的GA(简记为CM-GA)。进而,利用Markov链理论讨论了CM-GA的全局收敛性,并结合实例,比较和分析了CM-GA的收敛性能。针对基本二进制编码遗传算法运行过程中出现的解的范围变动比较大,不易于收敛到最优解的特点。本文结合生物进化的基本特征,从保护生物的优良特征的角度出发,提出了一种基于模式的复合变异策略,建立了一类基于模式变异的遗传算法(简记为SM-GA)。进而,利用Markov链理论讨论了SM-GA的全局收敛性,并结合实例,比较和分析了SM-GA的收敛性能。最后结合属性约简的特点,提出了一种基于模式变异遗传算法的属性约简算法。