随着移动通信的发展,频谱资源显得日趋紧张,使得人们努力开发高效的编码、调制以及信号处理技术来提高无线频谱的效率.信息理论的发展指出,通过采用多根发射天线多根接收天线可以有效得增加无线通信系统的容量从而提高无线频谱的效率.发射分集技术就是多发射多接收天线系统的一种主要实现方式,它通过在多根发射天线上发送信号而引入分集以实现可靠通信.空时编码是实现发射分集的关键技术,它在发射端引入空间和时间相关,使得接收端获得分集的同时也可以获得编码增益.空时分组码(STBC)和分层空时码是两种典型的空时编码.该文首先研究了STBC系统的性能,并仿真了其在独立以及相关的Rayleigh衰落信道下的性能.同时研究了衰落相关性对STBC性能的影响.为了更接近于实际的衰落环境,独立完成了采用Nakagami-m衰落模型来研究STBC的性能.通过仿真可以看出STBC具有很好的误码性能.研究了VBLAST系统的三种检测算法,并给出仿真结果,重点研究迫零算法在相关的Rayleigh衰落信道下的性能.为了改善迫零检测算法复杂度较高的缺点,提出了一种改进算法,用Greville算法求伪逆,同时得到迫零向量,通过仿真可以知道,该算法仿真时间比原有的Golden算法仿真时间要少一半左右,大大降低了运算的复杂度.为了提高VBLAST系统的误码性能,提出了一种新的迭代检测算法-ISP(迭代信号处理)算法.该算法利用最大可用分集来改善通过迫零算法得到的初始数据的估计,即在检测每一层信息时,都保证有同样的最大可用分集.通过仿真可以看到该算法明显改善了系统的误码性能.最后,将降低复杂度的改进算法与改善误码性能的ISP算法结合起来得到新的算法-改进ISP算法,通过仿真,可以看出,改进ISP算法在性能上比迫零算法要好很多,而且复杂度也比ISP算法小很多,因此,改进ISP算法更加适合应用于实际的系统中.