人工智能和多智能体系统在实际应用中会遇到诸如无人驾驶、无人机编队、机器人对抗等智能体与环境交互、智能体与智能体交互的场景。围绕多智能体博弈模型,以马尔科夫博弈或者随机博弈的框架为基础,讨论基于强化学习方法与环境交互寻找纳什均衡的多智能体强化学习算法、基于均衡理论计算纳什均衡的群智能算法两个方面存在的问题,开展以下研究:为改善多智能体纳什Q学习算法适应性不好,条件苛刻,运算复杂,且没有通用的方法更新策略价值等问题,提出算法改进思路。首先,引入联合动作向量简化算法,引入参数,通过参数近似控制状态-行为值函数,转化训练目标,给出参数逼近的值函数更新方程;其次,理论分析了算法的收敛性及可行性;最后,通过实验验证了算法的有效性。仿真结果表明,基于参数逼近的多智能体强化学习算法,能够使智能体100%达到纳什均衡,且能够提高算法性能,简化算法复杂性,比起传统的纳什Q学习算法能够较快收敛。针对智能体参与个数多或者维度稍高的矩阵博弈纳什均衡计算困难,对现有的纳什均衡求解理论进行分析,将求解纳什均衡问题转化为可以利用群智能算法求解的单目标优化问题。为改善现有的粒子群算法计算纳什均衡时精度不高,迭代繁琐,提出算法改进方案:通过分析参数,设计符合求解纳什均衡问题的参数修正方案,给出改进算法的步骤;利用一些测试函数验证改进算法的可行性与有效性;将求解一般矩阵博弈纳什均衡问题进行转化,以改进的算法求解纳什均衡,并实验验证。结果表明,改进的算法求解纳什均衡是可行的,该算法不仅能够有效求解纳什均衡,也提高了计算精度和算法性能。