随着无线通信的广泛应用，无线的频谱资源越来越紧张，作为主要的能够提高频谱利用率的多天线技术，受到学者和产业界的极大关注。在以IMT-Advanced为代表的未来无线通信中，多天线技术是其中不可或缺的物理层核心技术。　　多天线的系统模型与多用户检测相同，其检测算法起源于由多用户接入而引起的多用户检测问题。它们的数学模型是将接收发送的信号表示成矢量形式，发送向量乘以信道矩阵加上噪声矢量等于接收矢量，其中信道矩阵、噪声矢量是连续的，发送向量中每个元素都是相互独立的有限取值的离散点。多用户检测的最优算法是最大似然序列检测算法，次优算法主要包括以解相关、最小均方误差为代表的线性检测算法，和以判决反馈、串/并行干扰抵消为代表的非线性检测算法。　　多天线应用中一个重要问题是检测算法的复杂度高。球形译码系列算法是最大似然检测的简化算法，是具有最优或者近最优性能、而且较低计算复杂度的检测算法。通过把多输入多输出系统抽象建模为图论中的有根树，球形译码算法把检测问题转化为树搜索问题，每个输入的矢量符号对应树上的一个从根节点到叶子节点的节点组合，输入输出符号间的距离对应节点的度量大小，非叶子节点对应发送符号矢量的一部分，这些节点的度量是对应部分的发送符号矢量和对应部分的接收符号矢量之间的距离，求解最优解就转换为搜索有根树上最小叶子节点的问题。按照搜索方式不同，球形译码分为深度优先、距离优先、宽度优先三种算法，按照输出信息是检测符号还是比特似然比的不同，分为硬检测输出和软检测输出两种。　　对于许多应用来说，球形译码算法仍然存在一系列问题，本文针对理论和实际应用中的不同问题，结合各自算法的特点，提出了一系列的优化算法，具体研究内容如下:　　1.搜索过程中设置阈值以降低算法复杂度。设置阈值，在树搜索过程中裁剪掉那些大于阈值的节点，可以有效地减少访问节点数，进而有效地降低计算复杂度。论文针对宽度优先算法计算复杂度高的问题，提出两种阈值裁剪算法，以达到最大限度降低计算复杂度的目的。第一，从概率分布的角度，提出一种全局阈值设置方法，联合最优性能作为上限、概率分布以及预期最大的性能损失率来设置阈值，并给出裁剪算法的性能上下界。第二，利用已经检测出的层的噪声作为已知噪声，加上未知层根据概率分布设置的值，作为每层不同的阈值，达到更加有效地裁剪的算法。为了比较不同的简化效果，论文提出中间复杂度点的概念，以之作为衡量标准。两种所提算法均使得算法复杂度得到极大的降低，后者效果更明显。设多天线系统宽度优先检测算法预设宽度为K，在极限情况下，两种算法均可以达到宽度优先算法1/K的复杂度。仿真实验验证了所提简化算法的性能相比简化前的降低基本可忽略，在较高信噪比时复杂度降低非常有效。　　2.树搜索过程中减小节点的展开数及保留数。论文针对宽度优先算法计算复杂度高的问题，提出两种在保持复杂度确定的前提下，尽量降低复杂度的简化算法结构设计。第一，通过研究树搜索过程中不同节点成为最终解的概率因节点的距离大小而不同，论文提出根据同一层内节点距离大小来减少一些节点的展开数，达到简化效果。第二，论文提出联合多种手段的多减算法，从多个方面减少访问节点的数目，达到宽度优先算法的极大简化。两种所提算法均使得算法在复杂度确定的前提下，计算量得到极大的降低，多减算法效果更明显。设多天线系统节点展开数为M,在极限情况下，两种算法均可达到宽度优先算法1/M的复杂度。仿真实验验证了在复杂度有效降低的前提下，所提简化算法的性能相比简化前的降低基本可忽略。　　3.利用分块简化搜索结构。针对距离优先球形译码搜索所需存储器很大的问题，还有距离和深度优先球形译码搜索计算复杂度起伏大以及无法采用并行计算的问题，论文提出分块的简化搜索结构。树搜索算法的复杂度部分来自于树结构的复杂，将搜索树分块以降低树结构的复杂度的做法，可以有效地降低搜索算法的复杂度。进行分块后，相比整个树，子树呈指数缩小，子树中所需处理的节点数减小，进行搜索、排序、存储等操作的复杂度被降低。论文将分块应用于球形译码算法，对距离优先球形译码算法减小了搜索所需存储器大小，减少算法运行时间;对深度优先算法减少了复杂度的起伏，减少算法运行时间。最后，论文研究了利用分块算法将原来只能串行、单处理器处理的算法扩展到并行、多处理器处理。这些内容在仿真实验中得以验证。　　4.软输出的球形译码算法的简化算法。针对软输出的球形译码搜索计算量大的问题，论文提出条件搜索的简化算法。研究表明，将检测和解码联合起来，将各自产生的软信息作为另一方的先验信息，利用迭代算法的原理，使信息在检测和解码间迭代更新，可以取得接近信道容量的性能。软判决输出的球形译码算法要求能够利用到先验信息，同时输出端不再是一个经过判决的符号，而是似然比软信息，其复杂度更高，降低复杂度的需求尤为迫切。本文研究了软判决的迭代过程的特点，提出了根据似然比值的大小来判断各个比特是否在本次迭代中需要更新，那些所有比特都足够大的树不需要进行搜索，直接进入下一步的处理过程，有效地减少了对性能提高不大的搜索。仿真实验验证了在迭代运算中大量的树搜索被节省，总体运行复杂度大幅下降，而性能下降非常小。