随着无线通信技术的发展,移动通信系统要求实现高速率的可靠传输和充分的区域覆盖。多输入多输出(MIMO)传输技术是解决上述问题的关键技术之一,它通过同时提供空间分集增益和复用增益,可有效提高无线传输的可靠性和有效性。另一方面,为了增加无线通信的覆盖范围以及弥补MIMO技术难以在移动终端实现的缺陷,研究者们提出了中继技术。在无线中继通信系统中,发送节点可以在中继节点的协作下完成与目的节点的通信,以获得空间分集增益、增加系统容量和改善小区边缘覆盖。为此,本论文对无线中继通信系统的可达速率区域及中断性能进行了深入研究和分析。首先,针对用户之间无直传链路的多向MIMO中继通信系统,研究了最优分集-复用折衷(DMT)性能和功率分配优化策略。针对K用户多向MIMO中继信道,假设每个用户发送多播信息,推导了其在瑞利衰落下的DMT性能,并证明了可通过压缩转发(CF)中继策略达到该系统的最优DMT。针对三用户MIMO Y信道,在假设每个用户发送单播信息的前提下,提出了放大转发(AF)模式下的信号空间对齐方案,结果表明该方案可以达到系统的最大自由度。在此基础上,研究了用户端的功率分配策略。仿真结果表明,与平均功率分配策略相比,所提出的功率分配策略的系统和速率有了明显的提升。其次,在用户节点之间含有直传链路的情况下,研究了K用户离散无记忆多向中继信道的速率区域。假设每个用户采用限制性编码器,利用割集定理推导了信道容量区域的外界,并推导了系统采用译码转发(DF)和CF中继策略时的可达速率区域,以及高斯信道假设下的速率区域外界和可达速率区域的表达式。进一步分析发现,双向中继信道和多址接入信道在DF和CF下的可达速率区域结果可以看作是上述结果的特殊形式。为了进一步分析DF和CF中继策略的性能,研究了对称高斯情形下的对称速率,并指出当中继功率大于等于单个用户功率的(K-1)倍时,CF方案的对称速率与对称容量之间的差值不超过0.5/(K-1)比特。对于DF方案来说,如果系统的中继链路强于直传链路且中继的功率较小时,其对称速率随着用户数的增加趋近于最优。以上理论分析通过实验仿真得到了验证。随后,在目的节点附近存在多个干扰源的场景中,研究了干扰受限条件下AF两跳多接入信道的中断性能。当所有干扰源服从不等功率的瑞利衰落时,推导了系统的公共中断概率的精确表达式。为了降低计算复杂度,进一步推导了解析形式的公共中断概率近似解,在此基础上,分析了渐近情况下的公共中断概率特性。渐近分析结果表明,当用户功率或中继功率趋于无穷时,系统的公共中断概率收敛于一个常数。基于公共中断概率的估计解,得到了系统的公共中断速率区域。此外,当中继功率趋于无穷时,还推导了系统的单独中断速率区域。数值结果表明,公共中断概率的积分形式,近似解,渐近值等均和蒙特卡洛仿真结果相吻合,并且单独中断速率区域通常远大于公共中断速率区域。最后,研究了目的节点干扰受限的DF两跳多接入信道的中断速率区域。基于DF两跳多接入信道公共中断和单独中断的定义,分别讨论了中继节点处和目的节点处的译码过程,推导了两种中断概率的精确闭式解,求出了公共中断速率区域和单独中断速率区域的边界点。研究结果证明,当其中一个用户到中继节点之间的链路较弱或中继节点到目的节点之间的链路较强时,该用户的单独中断速率区域与公共中断速率区域之间的差值较大。数值结果表明,公共中断概率及单独中断概率的精确解与蒙特卡洛仿真结果完全吻合,同时也验证了各链路的强弱对两种中断速率区域差值的影响。