随着移动通信的发展，频谱资源显得日趋紧张，使得人们努力开发高效的编码、调制以及信号处理技术来提高无线频谱的效率。信息理论的发展指出，通过采用多根发射天线多根接收天线，可以有效地增加无线通信系统的容量，从而提高无线频谱的效率。广义的多天线技术(MIMO)主要包含空间复用技术和发射分集技术。而其中的发射分集技术，指的是在不同的天线上发射包含同样信息的信号(信号可能并不相同)，从而达到空间分集的效果。空间复用与发射分集不同，它在不同的天线上发射的是不同的信息，空间复用技术真正体现了MIMO系统容量提高的本质。分层空时码是空间复用的典型应用，它包括水平分层空时码(H-BLAST)、垂直分层空时码(V-BLAST)和对角分层空时码(D-BALST)。 本文主要研究了垂直分层空时码V-BLAST系统的两种检测算法，并给出仿真结果。 恒模算法(CMA)作为一种重要的盲自适应算法，不需要训练序列，仅仅通过接收信号的统计特性来获得信道的状态信息，从而有效地恢复出发送信号，可以很好地节约系统的频谱资源。然而，盲自适应算法有着其固有的缺点，对于分离出的数据存在相位模糊性和排列不确定性，因此我们需要加入少量的训练序列来克服上述缺点。 本论文主要研究频选信道空间复用MIMO的CM频域半盲估计与均衡，研究了基于最小二乘恒模算法(LSCMA)以及扩展算法在MIMO系统频域半盲信源分离中的应用，并给出了基于LSCMA的扩展半盲信源分离算法在MIMOMC-CDMA系统中的性能仿真与结果分析。