随着移动通信需求的快速增长,可见光通信(Visible Light Communications,VLC)凭借其高宽带,高速度和机密性等优点被认为是有前途的室内无线访问技术。为了进一步提升可见光通信系统的传输速率,光学正交频分复用(Optical Orthogonal Frequency Division Multiplexing,OOFDM)被认为是一种比单载波方案更适合VLC的调制方案,因为OOFDM受符号间干扰(Inter Symbol Interference,ISI)的影响较小并且具有较高的频谱效率。在OFDM系统中,为了从接收信号中去除信道效应,接收机需要知道信道脉冲响应(Channel Impulse Response,CIR),这通常由单独的信道估计器来支持。基于经典信号处理的通信和信息理论,通信系统在接近最佳香农极限性能方面取得了巨大的进步,然而仍然存在一些问题,例如联合优化问题。深度学习(Deep Learning,DL)技术已被证明在未知或过于复杂的情况下表现优秀,非常有前途。实际的通信系统通常包含信道非线性,非平稳性和非高斯噪声等问题,这些信道损失使得对系统的数学推导变得比较困难。而从深度学习的角度重现这些问题,可以直接根据数据优化通信系统。此外,深度学习方法相比传统通信,可以实现高度自适应的系统和更低的整体复杂性。本文针对可见光通信系统中的信道估计与信道非线性问题进行了研究,使用深度学习技术提出了针对上述两个问题的解决方案:·提出一种基于深度神经网络的DCO-OFDM通信系统信道估计方案本文从DCO-OFDM通信系统出发,通过理论分析典型信道估计方法,使用深度神经网络(Deep Neural Network,DNN),对信号进行补偿,获得的符号错误率性能优于典型的信道估计算法,并且在接收端通过使用离线的训练替代了在线的复杂计算,另外实验还显示,在使用较少导频或者去除循环前缀(Cyclic Prefix,CP)的情况下,即占用更少频谱资源的情况下,深度学习方法比现有的经典方法表现更好。在信道环境较恶劣的情况下,深度学习方法表现也比经典方法好,增强了系统的稳健性。·提出一种基于自动编码器的OOFDM-VLC通信系统中信道非线性效应减轻方案本文从OOFDM-VLC系统出发,首先分析了 VLC通信系统中存在的非线性效应。另一方面,由于OFDM由许多同步载波组成,当它们在同一时域中相加时,会导致较高的峰均功率比(Peak to Average Power Ratio,PAPR),高PAPR的信号驱动发光二极管(Light Emitting Diode,LED)时会增强非线性损失,导致信号质量下降,符号错误率上升。自动编码器以无监督的方式训练神经网络,利用编码和解码过程,尝试将其输入复制到其输出。本文建立基于自动编码器,提出针对非线性失真的端到端优化的方案,将OOFDM-VLC的星座映射和信号检测模块用神经网络替代,通过训练网络实现端到端优化,同时,由于已知高PAPR在信道中会对通信质量产生负面影响,将其纳入优化目标,加快训练速度。实验显示,在进行端到端优化后,性能相比原有方案有了显著提升。