大规模MIMO技术通过使用大量的接收天线服务多个终端和时分双工技术对现有通信系统有很大突破,大规模MIMO系统在丰富的散射环境下具有高频谱效率和高链路鲁棒的特点。实现大规模MIMO系统的重要困难在于检测问题,大规模MIMO系统中数据检测的计算代价太大,这种问题一直阻碍着大规模MIMO系统的实现。在过去二十年,很多检测方法被提出,目的均是为了减少计算复杂度,得到最佳检测性能。MIMO检测器主要分为两个类别。第一类检测器的复杂度取决于信道的特殊实现,例如树搜索,这些方法得到最佳性能的代价是复杂度呈指数倍,是复杂度最高的一类,如果使用一些终止条件得到的是次优的性能。另外一类检测器包含复杂度固定,不依赖信道实现的一类检测方法,这类从实现角度看更可取,因为它们消除大维度数据缓冲超出硬件能力的情况。本文的主要工作是针对这两类检测器分别研究两种不同的检测方法。本文研究的一种检测方法是遗传似然上升搜索(LAS)检测算法,该算法将遗传算法和LAS算法结合在一起,对LAS算法通过遗传的方式进一步处理,从而进一步提高大规模MIMO系统的接收性能,遗传LAS算法是LAS算法的一种改进方法,获得比LAS和禁忌搜索更好的检测性能。本文研究的另一种检测方法属于第二类检测技术,对于第二类检测技术,本文主要改进基于LR(Lattice Reduction)的递归干扰消除算法和基于LR的列表干扰消除算法两种方法。这两种算法都是根据矩阵的子空间能够比原矩阵的LR产生更加正交基向量的观点产生的。基于LR的递归干扰消除算法是一种部分干扰消除算法,它能够获得比基于LR的线性检测更好的检测性能,但是其复杂度比基于LR的线性检测稍高,而且它的复杂度还与递归次数有关。基于LR的列表干扰消除检测算法旨在将大规模MIMO系统分解为多个低维度MIMO系统,然后使用基于LR的线性检测检测每个低维度的MIMO系统,通过使用基于元素的LR算法,基于LR的列表干扰消除检测获得了复杂度和性能上的折中。