多输入多输出(MIMO)系统是近十年来现代数字通信领域最重大的技术突破之一。该技术催生了许多先进通信技术,被认为是解决未来无线通信网络高速流量瓶颈的强有力竞争者。在MIMO 系统发明短短几年以后,就出现了采用该技术的大规模标准化驱动的商业无线产品和网络,例如宽带无线接入系统,无线局域网,3G和后3G 网络。MIMO 系统的优势在于其潜在容量巨大,且随着收发天线数目较小的一方呈线性增长。理论研究和实践应用都表明MIMO 系统是未来实现吉比特高速无线通信的重要技术手段,因此具有极高的研究价值。经过近十年的努力,MIMO 系统及其相关技术虽然已经获得很大发展,但仍然存在以下一些不足: (1) MIMO 系统容量的研究还不完善。现有研究大多基于瑞利分布信道的假设,然而在某些无线应用场合,例如宽带无线固定接入系统,往往适合采用莱斯信道模型。如何对这种多天线系统建模以及采用何种传输策略值得研究。(2) MIMO 系统检测问题还有待研究。为了逼近多天线系统的容量需要有好的检测技术。然而MIMO 系统在带来巨大容量的同时,也产生了极大的接收信号检测复杂度。球形解码算法是一种性能优化,复杂度适中的检测算法。但是常规球形解码算法不能解决发送天线大于接收天线的问题。已有的广义球形解码算法虽然能够克服球形解码算法的不足,但存在复杂度大的缺点。(3) MIMO 系统的联合检测解码问题需要改进。联合检测解码可以进一步提高系统的性能。如何将性能优化的球形解码算法和Turbo 迭代解码进行联合以进一步提高系统性能值得研究,其核心问题为如何构造一个软球形解码器。针对这些问题的研究,对于MIMO 系统理论的完善和相关技术的提高是必要且有价值的。在国家自然科学基金项目——“基于媒体传输特性的无线多媒体技术研究”(项目编号:60202005)的资助下,本文的研究工作从三个方面展开:(1)