近年来,随着多媒体业务的快速增长,人们对无线通信系统的传输性能提出了更高的要求。尽管无线通信打破了传统有线网络的固定约束,但其复杂的信道衰落特性阻碍了可靠高效的信号传输。中继技术被认为是改善无线通信系统性能的有效途径,其以低廉的成本及灵便的部署来提升系统容量并且扩大系统覆盖范围。相比传统的单向中继,基于模拟网络编码(ANC)的双向中继以较少时隙实现了信号传输,能更高效地利用频谱资源。同时,多输入多输出(MIMO)技术在不增加发射功率和时频资源的前提下,能够获取额外的空间自由度来对抗信道衰落。因此,将MIMO技术整合到双向中继系统中可以显著提高系统性能。本文主要研究基于ANC的MIMO双向中继网络,针对实际传输场景提出简化的低复杂度传输方案,对提出方案进行分析讨论并通过数值仿真验证理论结果。本文的主要研究成果总结如下:1.针对多用户多中继MIMO双向中继系统进行非对称业务传输的实际场景,分别采用波束成形和天线选择来获取多天线技术带来的分集优势,提出并分析两个机会传输方案,其核心思想在于采用分布式实现方法逐步完成用户和中继的联合选择过程。随后推导了两个传输方案在Nakagami-m衰落环境下系统中断概率的上下边界,并通过理论分析得到相应的分集增益及编码增益。本文还讨论了特殊中继部署场景时的系统中断性能,并借助数值仿真验证了提出方案的有效性。2.针对MIMO双向中继系统所有节点均配置多根天线的场景,提出一种简化的传输方案,其中源节点采用波束成形技术而中继采用天线选择技术。该方案不要求在中继节点执行信道估计,而是通过简单比较每个天线的最小接收导频信号功率来确定最佳中继天线。系统中断性能及误码性能的理论分析表明该简化方案可以获取满分集增益;随后推导了考虑天线相关性时的系统中断概率,通过分析可知天线相关性会对系统的编码增益造成损害,但仍可以达到满分集增益。最后借助仿真结果验证理论分析,并进一步给出在无法获得理想信道状态信息时简化方案的中断概率性能。