无线通信系统的技术目标是为移动用户提供更大的系统容量和更好的通信质量。在码分多址蜂窝移动无线通信系统中，用于增加无线通信系统容量的传统可用资源是频谱和发射功率。但是，这两种资源恰恰是限制现代无线网络的瓶颈，因为可用的频谱资源有限，而发射功率受到移动台电池能量的限制。如何合理地利用这些资源，使得在不增加额外频谱和功率需求的前提下有效地降低干扰，就成了提高容量的关键。与传统的FDMA、TDMA系统相比，CDMA系统具有频谱效率高、软容量、保密性好以及更大的潜在容量等优点，但是同时也要克服多址干扰和远近效应这两个严重影响系统容量的问题。在CDMA系统中，引入多用户检测、功率控制和天线阵列波束形成技术，可以有效地抑制干扰，提高系统容量。 90年代以来，V．Vapnik等在统计学习理论基础上发展了一种新的学习方法——支持向量机(SVM)，它与一般学习机相比具有更好的泛化性能和非线性扩展能力，且它的收敛过程无局部极值。近十年来，随着机器学习理论的深入发展，SVM方法被广泛地应用到各个研究领域。最近该方法成为无线通信信号处理的一项新型技术，研究者利用支持向量机良好的非线性分类能力对接收信号进行分类，使得系统能够正确的检测目标用户的发射信号、发射功率以及信号的入射角度，以达到增加系统容量，改善通信质量的目的。本文以CDMA通信系统中的关键技术多用户检测、功率控制和智能天线作为切入点，结合机器学习算法来研究无线通信中的先进信号处理技术。全文研究内容大致可以分为四个部分：快速的在线分类算法，基于机器学习算法的多用户检测，基于机器学习算法的功率控制和基于机器学习算法的DOA估计。 SVM方法可以归结为一个有约束的二次规划问题，这就导致它的训练时间随着训练样本数的增大而变得越来越慢，所以很难在线应用。而CDMA中的信号处理问题对实时性能要求较高，需要不断地更新训练序列重复训练，这就需要一种更加切实有效的快速在线SVM方法来满足这种需求。本文提出的FOSVC算法通过KKT条件判别新增加的训练序列，选择那些违反KKT条件的样本来构造当前训练样本集，从而有效地减少了训练样本的大小，提高了训练速度并降低了算法对计算内存的需求。仿真结果表明FOSVC算法在分类错误率和其它支持向量机相当的情况下，支持向量数更少，训练时间更短，是一种非常有效的在线分类算法。 从机器学习的角度来看多用户检测问题，就是在接收信号已知的情况下，检测出目标用户的发送信号是+1还是-1，这是一个典型的二分类问题。本文提出的基于FOSVC的多用户检测算法除了需要训练序列之外，训练过程中不需要知道信号幅值和扩频序列码，也不需要对接收信号的相关矩阵进行求逆运算，是一种模型结构简单，计算复杂度较小的多用户检测算法。由于FOSVC算法在基本性能和传统SVM相当的情况下具有收敛速度更快等优越性，所以更加有利于用户信号的实时检测。仿真结果显示该算法有效抑制了多用户干扰和环境噪声，误码率明显的低于MMSE多用户检测器。 在功率控制方面，本文提出了基于FOSVC的变步长功率控制算法，该算法无需估计SIR，而是利用样本协方差矩阵的特征值与SIR之间的对应关系来实现功率控制。我们首先利用FOSVC算法对样本协方差矩阵的特征值所对应的特征向量进行分类训练，产生SIR分类决策面，然后根据FOSVC的输出值和数据点到SIR决策面的距离，产生变步长的功率控制命令。不同信号环境下的仿真结果显示该算法具有快速的收敛性和良好的动态跟踪性能。 自适应阵列天线系统应用的一个关键问题是对用户入射角度进行估计，只有先进行精确的DOA估计，才有可能通过自适应的波束形成技术来实现空间滤波。文本结合