随着移动设备的爆炸式增长,用户对高数据速率服务的需求越来越普遍,传统蜂窝技术难以满足日益增长的数据量和数据质量的需求。与4G技术相比,5G技术具有更高的频谱利用效率、更高的能源利用效率和更高的成本效率,设备到设备通信（Device-to-Device,D2D）技术作为5G的核心技术之一,强化5G的一些功能之外,也会带来干扰控制、激励机制、能源耗损等挑战。设计了一个5G下可持续协作通信生态系统。该系统利用具备射频充能的雾设备作为中继提高用户吞吐量和能源效率。为了满足设备对数据传输质量的需求,提高系统链路容量、频谱利用效率等性能,主要做了如下几点贡献:首先,对基站和雾设备的通信效用进行建模来衡量其协作通信中的劳动贡献,基于效用函数建立斯塔克尔伯格博弈通信协议激励D2D合作通信,并证明所求解的斯塔克尔伯格博弈的纳什均衡点的存在性和唯一性;其次,采用能够射频能量收集的雾设备作为中继设备增加系统吞吐量和能源利用效率,并提出雾设备通信模式下的充能、感知和发送三部分工作时分调度算法,实现系统效用最优化;第三,为了减少中继传输的数据冗余并确保有效的传输速率,对流经中继设备的数据进行基于伽罗华域的网络编码,保证中继数据尽可能无冗余。第四,为避免在雾设备博弈选择过程中资源分配不公平的现象,带入公平性指数作博弈参考因子,并使用了遗传算法来求解这个双目标优化模型;第五,考虑到多个注册用户和多雾设备同时收发数据场景,使用了联盟博弈算法和斯塔克尔伯格博弈算法求解频谱划分联盟和联盟中继选择结果,算法在保证注册用户设备服务质量前提下,增加了系统总链路容量。最后,通过无线仿真模拟平台Mininet对整个生态系统场景进行性能分析。仿真结果表明,斯塔克尔伯格博弈中的基站和雾设备们都具有理想的效用收益,雾设备之间资源分配的公平性得到满足的同时系统能源利用效率得到提高,所提出的联盟形成博弈算法能够提高系统总链路容量并在算法性能方面具有优越性。