空间调制作为一种新型的多天线技术,因其低射频数和低复杂度的特性,得到了广泛研究。空间调制的部分激活结构能有效缩小接收端的搜索空间,使得其系统算法易于与机器学习算法相结合,突破传统算法的局限性。此外,空间调制的稀疏发射结构也适合应用于可见光通信技术,从而提高系统传输速率。针对上述研究问题,本文旨在探索基于空间调制系统的新型技术,将机器学习方法与空间调制技术相结合,从复杂度优化和性能优化角度,提出了新型信号检测和功率分配算法,并对基于机器学习的天线选择算法进行了优化。同时,对基于空间调制的可见光通信系统进行了研究。本文主要研究内容如下:第一章介绍了多天线与空间调制的研究背景与现状。第二章对空间调制系统模型进行了介绍,同时还介绍了空间调制系统的性能分析方法,然后基于并集界的方法,对多域联合索引调制系统进行了理论性能分析,并给出了通用的误比特率表达式。第三章对将空间调制与机器学习相结合的技术进行了研究。在信号检测方面,介绍了K均值聚类检测器和监督式学习检测器,并在K均值聚类检测器的基础上,为了降低算法复杂度和避免错误平台效应,基于最小欧氏距离最大化的思想,提出了改进的K均值聚类检测器;为了提高系统性能,基于置信传播的思想,以吸引度信息矩阵和归属度信息矩阵为度量标准,提出了仿射传播聚类检测器;在监督式学习检测器的基础上,利用星座符号间的旋转性,对训练序列的构造进行了优化,有效减少了训练序列的长度。接着将机器学习方法应用于链路自适应中。在天线选择方面,在基于机器学习的天线选择算法的基础上,对样本的特征提取进行了优化,从而使得算法性能得到提升。在功率分配方面,提出了基于机器学习的功率分配算法,和传统的功率分配算法相比,有效降低了算法复杂度。第四章介绍了基于空间调制的新型可见光通信系统模型,从误比特率仿真性能和系统结构出发,对不同的可见光通信系统进行了性能分析对比。第五章对全文进行了总结,同时指出有哪些问题还有待研究。