多输入多输出(Multiple Input Multiple Output,MIMO)技术利用空间分集,在不增加功率和频谱的情况下,可以大幅提高系统容量、数据传输速率、频谱效率以及链路可靠性。然而在体积有限的小型移动终端,MIMO技术由于天线间距和数量问题,难以安置实施。协作通信技术通过网络中多用户之间共享天线和相关网络资源构造“虚拟多天线阵列”,对抗多径衰落获得空间分集增益,提升系统性能,是一种新型的节能通信技术。由于中继节点的加入,传统的传输模式和媒体接入控制(Media Access Control,MAC)时序已经不适用,需要设计新的传输和接入模式。围绕这一主题,本文针对能量受限的无线网络,联合考虑功率控制、中继选择和协议开销三个方面,面向能耗、频谱效率和空间频率复用性能,提出了合理的协作传输协议和跨层协作MAC协议。本文的主要工作与贡献如下:(1)针对能量受限网络寿命短的问题,提出一种面向能耗的总发送功率最小化协作MAC协议。基于误比特率(Bit Error Rate,BER)限制,分析了直传链路和协作链路的发送功率,以最小化源节点和中继节点之间的总发送功率为目标,采用导数为零的优化方法,给源节点和中继节点分配功率;从网络的角度,给出以最小化总发送功率为目标的最佳中继选择方法;通过对IEEE802.11分布式协调功能(Distributed Coordination Function,DCF)控制帧的扩展和新增,给出了总发送功率最小化的协作MAC时序和流程。仿真表明,该MAC协议能有效降低网络能耗,延长网络寿命。和同类MAC协议相比,在网络对BER要求越高时,该协作MAC协议的节能效果越显著。(2)针对MAC协议控制帧引起的网络能耗增加和频繁选中优质中继节点导致其过早死亡的问题,提出一种面向能耗的自适应双协作MAC协议。根据中继节点的消息队列情况,把数据传输模式分成直传模式、协作模式、双协作模式I和双协作模式II四种,基于BER限制,分析四种模式中源节点和中继节点的最小化总发送功率;考虑控制帧的能耗,对四种传输模式成功传输一个数据帧时的最小能耗进行分析,在此基础上自适应地选择传输模式;联合考虑节点的剩余能量和最小传输能耗,设计一种最佳节点的度量方式,以避免优质中继过快耗光能量和均衡网络中节点的能量为导向,选择最佳中继节点。仿真表明,该协议能有效降低网络能耗,延长网络寿命。四种模式中,双协作模式I具有最佳的节能效果。(3)为了提高可达速率,提出一种基于叠加编码协作传输协议。改进传统三节点模型中中继节点无偿转发的处理方式,利用叠加编码将中继的信号与源节点信号进行叠加;以最大化传输速率为目标,对中继处的叠加因子进行优化,给出了其最佳取值;基于信噪比(Signal Noise Ratio,SNR)限制,分析了新传输协议的单链路可达速率和中断概率、中继候选区域约束下的候选中继节点竞争胜出概率以及区域平均传输速率,给出了计算公式。仿真结果表明,该传输协议能有效提高系统单位带宽的传输速率,且中继节点与目的节点之间的距离越近,系统的传输速率就越大、频谱效率就越高。(4)针对由于源节点和目的节点之间的协作通信造成的对邻居链路干扰、影响空间频率复用率的问题,提出一种面向空间频率复用率的无协作干扰传输协议。通过调整中继节点发送功率,将协作传输的通信覆盖面积限制在直传链路的通信覆盖面积之内,给出了无协作干扰传输时的中继选择区域;改进最佳中继的选择方式,将源节点纳入候选中继集,参与最佳中继竞争,在中继选择区域和发送功率联合优化的基础上,分析了系统的单链路传输中断概率和中继选择区域限制下的中断概率,给出了系统的空间频率复用增益、计算了网络内有效的并发链路数量和网络吞吐量增益。仿真表明,该传输协议能有效增加协作网络中并发链路的数量,提高空间频率复用率和网络吞吐量,降低传输的中断概率。