随着无线电频带日趋拥挤,具备可用频带更高,通信容量更大,传输速率更高和抗电磁干扰能力更强的无线光通信成为近年来通信技术的研究热点。无线光通信具有许多其他通信方式没有的优点：通信带宽大,便于使用数字基带技术,小尺寸接收可以提供空间分集,保密性高,绿色环保而且部署灵活,因此具有重要的研究价值与广泛的应用前景。无线光通信技术目前还远未成熟,已有成果多数集中在点对点的单工系统、简化的非视距通信静态信道特性和简单调制编码等环节,而对各种实际复杂的通信环境参数考虑较少,对通信中背景噪声也没有进行系统研究,接收端也只是采取单探测器的接收方案,无论从理论还是实践上都没有很好的抗多径信道衰落的技术。本论文对无线光通信的信道模型、高性能的信道编解码技术和调制解调方法以及具体应用中的多用户和高阶复用问题依次进行了研究探讨。论文以国家自然科学基金项目为依托,围绕无线光通信的关键问题与技术难题展开应用基础研究,主要工作和创新点如下：(1)针对可见光通信的特征,研究了可见光在大气中传输时所受的分子吸收、分子散射的作用机理,进而研究白光LED脉冲信号在空气中散射传输的机理,建立了基于蒙特卡罗射线追踪算法的可见光信道模型,通过对该信道模型仿真,结果表明该模型可计算出多次反射分量影响下的可见光信道冲激响应特性,并能够得到信道损耗以及均方时延扩展等重要性能指标,为可见光通信系统设计提供了参考依据。(2)针对无线光通信系统中的信道衰落和干扰问题,为提高通信的可靠性,论文重点研究了适用于无线光通信的信道编译码算法,设计并实现了RS(18,10)和LDPC (960,480)编解码器,通过大量仿真和实验分析了采用RS码和LDPC码在无线光通信系统中降低系统误码率的性能。实验和仿真均表明：误码率取10-6,收发仰角为(10°,10°)时,RS码可以使光通信系统的可靠通信距离延长42%,而LDPC码能够有效延长可靠通信距离大约为89%；收发仰角为(20°,20°)时,RS码通信距离延长42%,而LDPC码系统延长了116.6%的可靠通信距离。(3)针对紫外光通信系统信道衰落快、功率受限等问题,结合中继协同通信技术,通过布置中继节点提出了局部区域内的多用户紫外光通信系统模型。在干扰信道下,推导出了两组并行紫外通信用户在中继协同下的系统可达速率的下限,结果表明多用户紫外通信系统在中继协同的帮助下,传输速率有明显的提高。此外,还研究了功率受限情况下不同优先级的用户组的功率分配算法,仿真结果表明,在保证高优先级用户可靠通信前提下,优化功率分配能够有效提高低优先级用户的传输速率。(4)针对可见光通信系统的信道衰落问题,本论文研究了可见光MIMO通信系统模型并结合STTC空时编码技术进行理论分析,并设计了一种改进型的STTC译码算法。与传统的Viterbi译码算法相比,这种改进STTC算法可以在一路接收端上独立进行,并且节点度量可以通过递推方程进行累积,在误码率相当的情况下,改进算法在分段度量的收敛速度更快。仿真结果表明,随着编码器系数集状态数的增加,系统的误码率明显降低；另外随着接收器数目的增加,系统性能更好。