近年来,满足极高频谱效率等需求的第五代移动通信的研究和开发正在不断发展,带内全双工(In-band Full-Duplex,IBFD)通信理论与技术也正在成为其中的一种研究热点。如果自干扰问题被有效解决,IBFD技术不仅能够提高频谱效率,还可能具有改善媒介接入层的时延特点。针对多输入多输出(MIMO)配置,本文主要研究多用户的全双工蜂窝系统的和速率性能和双向IBFD的干扰抑制方案,论文的主要工作包括:(1)阐述了全双工通信技术的研究背景以及研究意义,并且对当前全双工技术的发展轨迹做了总结,然后详细地总结了全双工通信的关键技术,接着概括了全双工技术在无线通信网络中的各种应用,最后给出了基于全双工技术的5G移动无线网络模型。(2)研究了一种基于IBFD的多用户MIMO蜂窝系统。在理论上,IBFD的无线通信技术具有倍增整个蜂窝系统的频谱效率的潜力,然而基站接收端中的残余自干扰可能会大大削弱上行接收机的性能。我们考虑一种简化的下行用户选择的方案来提高多用户MIMO系统的和速率,这种方案中调度算法(即计算下行信道的范数)能够削弱残余自干扰。(3)研究了全双工MIMO系统中一种使用QR-EVD(QR分解与特征值分解)的下行预编码方案。QR-EVD方案与传统的SVD-BD(奇异值分解和块对角化)方案相比较,尽管两者具有类似的和速率性能,但是前者具有更少的计算复杂度。(4)探讨了一种双向的全双工MIMO链路的速率渐进表达式,并完成相关的数值仿真。仿真结果显示:在较少数量天线的条件下,时域自干扰消除方案比空间域自干扰抑制方案性能更好。