协作通信技术通过允许邻近节点共享彼此的天线发送信号,不仅能够形成虚拟的多天线阵列获得空间分集增益,改善接收端的信号质量,还能够形成中继传输模式,扩大信号的覆盖范围。因此,协作通信技术成为了未来无线通信系统对抗多径衰落、提供高质量及高速率服务所需的关键技术。然而,传统的协作通信方面的研究大多是在节点自愿合作的假设上进行的。当网络中的节点属于不同的利益主体(用户或者服务提供商)时,节点为了节约自身的资源表现出“自私”的特性而不参与合作,因此,基于节点自愿合作的假设在实际的网络应用中往往是不现实的。为了使网络中的“自私”节点通过合作来提高工作效率,完成同一通信任务,以期达到“整体大于部分之和”的效应,有必要对激励合作的策略进行研究,进而解决合作的必要性和前提条件、合作伙伴的选取、合作的实施策略及通过合作网络中的节点或整个通信网络得到何种好处等问题。因此,本文针对如何建立一套有效的激励策略来促使网络中的“自私”节点参与合作的研究,以使协作通信技术能够应用于具体的无线通信场景是十分必要和有意义的。针对无线网络中的“自私”节点为了节约自身资源不愿合作这一问题,提出了基于交换带宽资源的激励合作方法。通过网络中的节点分享彼此的带宽资源达到建立合作并提高彼此收益的目的。首先,将节点间的协作带宽分配建模为合作博弈中的谈判问题,通过拉格朗日乘数法得到两个用户基于纳什谈判解(Nash Bargaining Solution,NBS)的协作带宽分配;其次,提出了一种新的基于Kalai-Smorodinsky谈判解(Kalai-Smorodinsky Bargaining Solution,KSBS)协作带宽分配方法;并提出了两种评价效用公平性的公平指数,对基于NBS策略和KSBS策略的协作带宽分配的公平性进行了研究;最后,在分析了采用不同调制阶数的M-QAM对合作性能的影响的基础上,提出了一种自适应调制KSBS(Adaptive Modulation KSBS,AM-KSBS)合作策略,该策略与非自适应合作策略相比,能够增加节点的合作范围,并保证节点在合作时始终能够获得最佳的合作效用增益。提出了一种基于纳什谈判解的最优价格激励和基于粒子群发射功率优化(Optimal Price Incentive Algorithm based on NBS and Optimal Transmit Power Algorithm based on Particle Swarm Optimization,OPINBS-OTPPSO)的协作算法,解决了激励“自私”节点合作机制中如何激励合作及何时合作的问题。针对第一问题,通过源节点对中继节点转发的数据进行价格补偿,从而达到促使网络中的“自私”节点进行合作的目的。同时,将源节点和中继节点协商价格的过程建模为谈判问题,通过求解得到具有帕累托最优性的激励价格,从而保证源节点和中继节点在合作中获得最佳收益;针对第二个问题,当源节点和中继节点合作获得的收益大于非合作的收益时,双方达成合作;进一步,为了提高源节点和中继节点的收益,采用粒子群优化算法得到了源节点和中继节点的最优发射功率。最后,由仿真实验可以得出,所提OPINBS-OTPPSO算法,与随机价格激励相比,能使源节点和中继节点在合作中获得的收益达到最优;与源节点和中继节点采用固定发射功率策略相比,能明显提高中继节点和源节点的收益,并保证系统的整体性能最优。针对鲜有同时采用合作博弈与非合作博弈理论对同一网络模型中的激励问题进行研究这一问题,将博弈论中的非合作博弈与合作博弈方法应用到同一网络模型中,通过价格激励机制激励网络中的“自私”节点进行合作。首先,采用合作与非合作博弈理论对合作发起节点(Initiating Cooperation Node,ICN)和合作参与节点(Participating Cooperation Node,PCN)在合作达成时,ICN以多大带宽通过PCN传输数据,PCN以多大带宽帮助ICN进行数据传输的问题进行了分析。尽管采用非合作博弈和合作博弈理论能够达成相同的合作结果,但通过分析可以得出,合作博弈理论更适用于带有中心控制节点的网络系统,而针对非中心控制网络系统,则非合作博弈理论更为适用。其次,提出了协作引擎(Cooperation Engine,CE)的概念,给出了CE基于博弈论的可实现算法,同时给出了带有CE的三节点协作系统模型,用户通过带有CE的激励和响应机制达到建立合作的目的。最后,仿真实验表明,和没有激励合作机制的通信系统相比,提出的带有CE的协作通信系统,能够显著提高ICN的能量效率,并增加PCN的收益。