人类社会广泛存在的合作现象是生物学、社会学以及经济学等领域关注的热点问题。近年来,研究者主要通过演化博弈理论,从生物演化的角度来对(无结构)种群中自私个体在交互中,信息获取、行为选择和模仿学习等过程进行建模,研究了合作行为涌现的过程以及合作产生的条件。然而在现实社会中,首先,由于个体自身认知或能力限制,在交互中容易受到周围环境的影响,对种群交互结构进行建模、并研究种群结构是合作演化的重要问题。其次,“我为人人,人人为我”现象普遍存在,乐于帮助别人的个体,总是容易受到别人帮助,如何建立有效的基于间接互惠的信誉机制、促进合作行为并抑制背叛行为是另一个重要问题。再次,当种群规模变大时,个体很难熟悉所有人,多数交互发生在陌生个体之间,如何在匿名或半匿名情况下促进合作行为产生是亟待解决的难题。基于以上三个问题,本文将复杂网络与演化博弈理论相结合,研究了复杂网络中个体行为演化动力学过程,提出了两种促进合作行为产生的机制。其主要研究内容如下:首先,针对现实中交互易受周围环境影响的问题,本文研究了空间结构中多个体博弈问题,对种群交互结构进行了建模,并在该模型上研究了晶格网络、小世界网络和无标度网络这三种网络结构对种群合作演化的影响。通过仿真实验,验证了复杂网络对合作演化的促进作用,同时发现了一个与以往研究不同的现象:无标度网络在有些情况下对合作演化的促进能力反而比小世界网络更弱。其次,针对如何有效地建立基于间接互惠的信誉机制、促进合作行为并抑制背叛行为的问题,本文分别在捐赠博弈和公共品博弈的框架下,引入并研究了信誉机制对种群合作演化的影响。通过仿真实验,验证了信誉机制对种群合作演化的促进作用,同时研究表明了信誉机制在匿名和半匿名环境下存在合作困境。最后,针对匿名和半匿名环境中,传统的信誉机制难以促进合作演化的问题,本文分别在捐赠博弈和公共品博弈的框架下进行了深入的研究。在捐赠品博弈下,本文提出了怀疑策略,并将其与联盟机制相结合,研究了这种方法对信誉传播和种群合作的影响。在公共品博弈中,本文提出了基于年龄信誉感知机制,研究了这种方法对信誉传播和种群合作的影响。通过大量的仿真实验,验证了本文提出的两种新方法能够有效地传播信誉,并在信誉机制的帮助下促进种群的合作演化。