随着5G时代的到来,结合当前全球范围内互联网技术的不断发展,人们对突破传统限制,可提供更大传输容量和更大覆盖范围的无线连接服务有着更迫切的需求。自组网(Ad Hoc)技术能合理根据网络中现有传输资源,完成有效的信息传输。多输入多输出(MIMO)技术在不增加带宽的情况下,能充分利用空间资源提高系统容量和频谱效率。本文通过将MIMO技术与Ad Hoc技术相结合,分析在实际传输环境下,网络中各参数对系统性能产生的影响,以及网络中节点存在异构性时对传输造成的影响。论文的主要成果有:1、结合经验电波传播模型,改进MIMO Ad Hoc网络容量的数学模型。在Ad Hoc网络中节点配置多天线时,运用MIMO技术可有效提升网络容量。针对现有网络容量的数学模型未考虑实际物理传播模型和实际网络参数的约束,本文结合经验传播模型分析节点间距离、节点分布密度及网络半径等重要参数对网络容量的影响,推导了在信道状态信息(CSI)未知和已知条件下的网络容量上界,使得网络容量的数学模型能够反映该传播模型下的实际传输场景,提高了模型的准确性。2、针对节点间不存在直接链路的多天线Ad Hoc中继系统模型,分析了该模型结合串行干扰消除(SIC)技术在瑞利衰落信道下的系统性能,推导出接收节点的中断概率表达式以及系统容量上界表达式,通过实验仿真验证理论分析的正确性,在接收端结合SIC技术相较于单用户检测可降低系统中断概率,提升了系统性能。3、当Ad Hoc网络中节点由于物理性差异形成异构网络,将导致同构性假设下的理论不能直接应用。本文结合MIMO技术,提出了一种分布式调度算法,并分析了在网络中节点天线数目异构条件下该算法相比于传统调度算法在网络性能方面的提升。分布式算法可根据节点类型和信道条件自适应地选择空间分集、天线选择等传输策略,解决了传统算法在异构网络下系统性能受到最小天线数目节点限制的问题,提升了系统整体性能。