优化问题普遍存在于现实世界的各个领域。群体智能算法是一种模拟生物群体智能行为，求解优化问题的自然计算技术。如何能更加真实的模拟生物群体行为，以解决复杂优化问题，是群体智能算法领域研究的重要问题。由于生物社会是一个复杂的自组织结构，因此群体智能算法若模拟生物社会结构的自组织演化过程，从自组织结构的角度考察个体行为，则能更加真实模拟生物群体行为，涌现相应的群体智能。本文借鉴复杂网络模型模拟生物群体的自组织结构，按照种群拓扑结构节点数固定不变和节点数动态变化，以及边有无方向的研究顺序，构造了提高算法性能的各种自组织种群拓扑结构，并对自组织种群拓扑结构特征、自组织种群拓扑结构特征度量的变化过程与算法性能的关系等进行了研究。微粒间的作用机制是影响微粒群算法性能的关键因素。为解决微粒群算法的早熟问题，提出了一种扩展的微粒群算法。借鉴拟态物理学中的引斥力思想，重新构建了微粒间的作用方式。基于微粒间适应值的比较，定义了微粒间作用的引斥力规则，使微粒在所有微粒对其产生的引斥力的合力方向上随机移动寻找最优解。理论分析了算法的收敛条件和全局收敛性。通过仿真实验说明了该算法具有较好的性能。为了构造能提高扩展微粒群算法性能的自组织种群拓扑结构，首先针对扩展微粒群算法的静态种群拓扑结构研究了信息传播速度和拓扑结构特征度量与算法性能的关系、静态拓扑结构和算法参数与算法性能的关系、扩展微粒群算法的最优种群结构，并通过理论和实验分析得出了节点的度和拓扑结构的度分布是影响算法性能的关键因素等相关结论。然后，根据扩展微粒群算法在静态种群拓扑结构研究中的相关结论，模拟动物群体趋利避害的行为选择机制，构建了在节点数固定不变情况下，以微粒适应值驱动的边变化的自组织种群拓扑结构。从理论和仿真实验上对结构及其与算法性能间的关系进行了分析，结果表明节点吸引边的能力对结构特征和算法性能具有较大的影响。与相关算法进行实验比较，结果说明了该算法具有较好的性能。并将其应用于混沌系统的控制问题，仿真结果表明了该算法的优越性。为了进一步提高扩展微粒群算法的性能，借鉴优胜劣汰思想，构建了在节点数固定不变情况下，以微粒适应值驱动的节点等量删除与补偿的节点和边变化的自组织种群拓扑结构。对结构进行理论和实验分析，获得了结构演化参数、结构特征度量和信息传播速度间的关系。对结构特征度量的动态变化过程与算法性能间的关系进行了实验分析，结果表明在整个算法进化期间，逐渐变快的信息传播速度符合算法不同时期的搜索需要。同时，将基于两种自组织种群拓扑结构下的扩展微粒群算法进行实验比较，结果表明后者的种群结构能有效的平衡算法的全局搜索和局部搜索能力，后者的性能优于前者。受真实网络具有增长特性以及微粒群算法动态种群规模研究成果的启发，结合算法的种群规模不能无限增加的特点，构建了以微粒适应值和节点(微粒)度择优的自组织种群拓扑结构。其在种群规模上限内按照节点数不断增加机制进行结构演化，之后按照节点等量删除与补偿的机制进行结构演化。同时，为了提高扩展微粒群算法的收敛性能，建立了与结构相关联的速度更新公式，并从理论上分析了其收敛条件和全局收敛性。根据算法搜索情况决定种群结构演化时刻，构造了算法进化与结构演化的异步结合方式。对结构进行理论和实验分析，获得了结构演化参数与结构特征度量间的关系。同时，仿真实验分析了结构演化参数和结构特征度量对算法性能的影响，并且通过与其它算法进行实验比较，结果表明了该算法的优越性。针对无向自组织种群拓扑结构存在的不足，模拟动物群体趋利避害的行为选择机制，以微粒的适应值为指导，构建了在节点数固定不变情况下的有向自组织种群拓扑结构。通过仿真实验获得了该有向种群拓扑结构特征，同时说明了该算法具有较好的性能。