随着移动通信技术的迅猛发展,用户的通信需求激增导致可用带宽严重不足、信息干扰严重等问题的出现。为解决以上问题,一方面可以利用光谱资源丰富的可见光通信(VLC)技术实现的“绿色通信”作为现有射频系统的补充。另一方面,可以利用现代通信领域的一种关键技术,即MIMO技术作为传输方案提高传输速率。而虽然MIMO技术可以有效地利用信道的随机衰落提高系统传输速率但其性能会受到信道干扰(Inter-Channel Interference,ICI)和天线同步等问题的影响。空间调制(SM)技术作为一种基于天线选择思想的新型MIMO技术有效地解决了传统MIMO技术的缺陷。本文将依据空间调制的概念及可见光通信系统模型对光信道中的空间调制系统性能进行深入的分析与研究。基于空间调制技术和可见光通信系统的研究背景以及国内外发展现状,论文首先介绍了空间调制技术的原理,对瑞利衰落信道下SM及空移键控(SSK)系统的误码性能进行了理论分析,并给出了基于一致界及改进一致界的误比特率解析表达式。其次,论文将空间调制引入到可见光信道中,基于室内可见光的视距(LOS)传输信道模型,研究了在室内MIMO条件下可见光通信系统的光信道特性,详细描述了光信道中空间调制(OSM)系统的原理。分别对采用M-PAM、M-PPM调制方案的OSM系统性能进行了理论分析,并推导了系统误码率的上界。通过改变OSM-PAM系统的收发阵列布局详细讨论了影响OSM系统性能的主要因素。此外,论文还对室内可见光信道中采用M-PPM调制方案的OSM系统进行了研究,分析了系统误码性能,推导了误符号率和误比特率解析表达式,给出了系统多发单收(MISO)和MIMO情况下的理论解析及仿真性能。最后,基于空间域和信号域星座会影响SM系统性能的思想,讨论了当传输速率一定时空间域和信号域星座尺寸分配方案对OSM系统性能的影响,并给出最优星座分配方案。