群体智能（Swarm Intelligence,SI）算法是一类代表性的启发式算法,它通过模拟自然界中真实生物种群的行为与其间的自组织交互而构造。作为一种典型的群体智能算法,粒子群优化（Particle Swarm Optimization,PSO）算法自从提出以来,就受到了学术界的广泛关注,并产生了众多变体算法。然而,目前的粒子群优化算法仍然存在一些问题,比如大多依赖于先验知识、搜索多样性不足,以及面对复杂优化问题时难以获得问题的全局最优解等。针对上述问题,本文在PSO中引入神经网络与强化学习来指导粒子搜索,提高优化表现。本文的主要研究内容如下:（1）粒子群优化算法中的参数大多依赖于人工经验（试错法）进行设置,难以获取合适的参数。针对此问题,本文提出一种基于神经网络指导的粒子群优化算法。根据每个粒子的表现对其参数进行调整,而非使种群中各粒子遵循一致的搜索行为。并利用强化学习对网络进行训练以更新网络参数。具体地,将每个粒子的历史经验,即其在一段时间内适应值的变化情况进行编码,以作为网络的输入。网络的输出为对输入粒子加速系数的调整动作,并根据下一时刻粒子适应值的变化情况获得反馈,基于反馈结果利用强化学习实现对网络的训练。通过网络的指导,自动地实现加速系数的有效调整。在CEC2013测试集全部28个函数上的仿真实验结果可以看出,提出的基于神经网络指导的粒子群优化算法在搜索性能上有较好的表现。（2）针对PSO中全局学习目标较为单一,导致学习多样性不足的问题。本文提出一种基于角色划分与神经网络的粒子群优化算法。首先根据适应值好坏对种群中的粒子进行角色划分,共分为leader、follower和rambler三种角色。接着各粒子会按照自身角色遵循不同的全局学习行为,即向不同的目标学习。进一步地,设计神经网络来对每个粒子进行参数调整,即为每种角色的粒子统一训练一个神经网络,该网络将适应值相近粒子的历史表现映射为其加速系数的调整动作。算法还设计角色转换方法实现粒子角色的重新划分,并提出候选粒子机制辅助粒子进行角色转换。最后在CEC2017测试集的全部30个函数上进行广泛的实验,实验结果展示提出的基于角色划分与神经网络的粒子群优化算法在求解精度上有较大的提升。（3）面向复杂动态优化问题,本文提出一种基于群体行为决策神经网络的粒子群优化算法,在保持种群多样性的同时,对种群中每一粒子的两个搜索动作进行合理决策,即定位学习目标与调整加速系数。具体地,为了在整个搜索过程保持种群多样性,首先设计子群划分方法,根据输入的每一粒子,确定其所在子群。选择能代表子群搜索特性且与现有子群中心远离的粒子,作为新的子群中心。通过选择合适的子群中心,实现子群的划分。不同子群中的粒子在各自能代表子群搜索特性的子群中心指导下搜索,呈现出多样的搜索特性,提升了种群多样性。本文设计的群体行为决策神经网络的输入为种群中每个粒子的当前位置,接着利用获取的子群中心设置网络隐藏层节点。为了调整粒子的加速系数,在网络输出层输出当前输入粒子的加速系数调整动作。最后,为了训练群体行为决策神经网络,引入强化学习对网络决策出的动作（包括定位学习目标和调整加速系数）进行奖励或惩罚,实现对隐藏层节点（代表子群中粒子的学习目标）和其与输出动作节点相连权值（控制粒子的加速系数）的有效调整,使算法能根据环境的反馈合理指导粒子的搜索动作,有效解决复杂的动态优化问题。通过在动态数据集MPB众多实例上的仿真实验可以看出,提出的基于群体行为决策神经网络的粒子群优化算法与其他主流动态优化方法相比,其表现具有明显的提升。