随着移动通信技术和移动通信网络的飞速发展，无线通信已经成为通信行业新的焦点。无线通信中有限的无线资源面临着通信数据大爆炸的困境，如何有效地解决无线通信中极大的系统容量、高速的数据传输以及高效的频谱利用率等问题，这已经成为了无线通信领域的研究热点。MIMO技术以其在不增加带宽和发射功率的情况下就能够成倍提高无线通信的质量和数据速率，成为了无线通信中关键技术之一。无线通信中的多址干扰不仅限制了数据传输速率而且还会导致远近效应问题，由于传统的检测技术不能有效地抑制多址干扰，因而基于智能算法的多用户检测技术很快地发展起来。　　 本文在介绍了MIMO-CDMA通信系统和一些多用户检测算法后，着重研究了遗传算法及其在多用户检测中的应用。因为基于简单遗传算法的多用户检测器的全局寻优能力依赖于初始种群的大小以及遗传控制参数的设计，因此一方面，在分析遗传算法种群构成对算法收敛速度和性能影响的基础上，本文提出了一种基于可变种群的改进的遗传算法，算法中通过使用小种群规模结合贪婪算法的途径来克服早熟现象，并且还能更快地收敛到全局最优解。另一方面，通过分析遗传算法的交叉概率和变异概率对遗传算法行为和性能的影响，本文还提出了一种改进的自适应遗传算法，算法中主要是采用有效的自适应参数调整方法结合逻辑交叉与逻辑变异算子来提高算法性能的。数值实验分析表明本文提出的两种新算法都能够以较快的速度收敛到全局最优解；在MIMO-CDMA系统仿真实验中，以多用户检测器的三个性能测度为指标，完成了基于简单遗传算法和本文提出的两种新算法的多用户检测器的实验，实验结果表明本文提出的两种新算法相对于传统遗传算法来说，在性能上都有较大幅度的提高。　　 第一章简要介绍了课题研究背景和论文结构。第二章概述了MIMO-CDMA通信系统模型和多用户检测技术。第三章主要介绍了遗传算法的相关知识。第四章研究了基于可变种群遗传算法的算法实现和数值仿真；第五章研究了基于改进的自适应遗传算法的算法实现和数值仿真。第六章利用前面提出的新算法对MIMO-CDMA系统进行仿真实验。第七章是对全文工作的总结与展望。