遗传算法作为一种基于自然选择和遗传理论的通用优化算法,已成功应用于组合优化、机器学习、工程优化、图象处理、人工生命、自动程序设计等诸多领域。随着研究的不断深入,遗传算法在处理多模态优化问题时的不足逐渐暴露。简单遗传算法不能很好的保持种群多样性,容易陷入多峰函数的局部极值点,导致早熟收敛;同时,由于遗传漂移简单遗传算法一般只收敛到多峰函数的一个峰,因此不能满足某些实际问题要找到多个峰的要求。小生境作为处理多峰优化问题的一种有效手段,得到了广泛关注,并已经成为遗传算法领域的一个研究热点。目前,小生境的设计和理论研究还不成熟,缺乏统一的小生境进化模型,小生境形成方法与种群多样性保持、进化搜索性能之间的关系在理论分析与实验研究方面尚不成熟。针对以上问题,本文对基于聚类的小生境遗传算法进行了研究,主要工作与研究成果如下:(1)提出了一种多源扩散的蚁群小生境遗传算法,该算法通过选取多个信息素扩散源和保留源中心点来保持种群多样性,并通过信息素扩散提高遗传算法的搜索效率,该算法能有效的避免遗传算法的早熟收敛,使算法最终收敛到全局最优解。(2)提出了一类改进的基于聚类的小生境遗传算法,把聚类思想用于小生境的实现,通过聚类和代表个体保留来提高种群的多样性和多峰搜索性能,从而达到多峰收敛的目标,并通过Markov链模型证明了该类算法能够收敛到多峰函数的多个最优峰。(3)设计了一种基于山峰聚类的小生境遗传算法,算法采用改进的山峰聚类提高种群多样性,并用多峰函数进行仿真实验,实验数据表明它比确定性排挤小生境和共享小生境的多样性更好,能够搜索到更多的峰。