在海洋开发日益重要的21世纪,具有高带宽、低延时、保密性好等特点的水下可见光通信已经成为了水下短距离高速通信场景中的研究热点。但水下可见光通信中复杂的信道环境以及器件引起的非线性效应会给接收端的信号处理带来诸多困难。就传统判决方式而言,以欧氏距离为判决门限时无法对幅度、相位严重畸变的信号进行正确判决;传统估计算法则是难以获取准确的信道状态信息以进行后续补偿。目前已有学者凭借机器学习较强的拟合能力来解决可见光通信中的非线性失真问题。本文利用机器学习技术并基于水下直流偏置光正交频分复用（Direct-Current-Biased-Optical Orthogonal Frequency Division Multiplexing,DCO-OFDM）可见光通信系统进行信号检测及信道估计方面的研究。主要工作内容如下:（1）首先对DCO-OFDM系统的基本原理进行介绍,接着分别分析器件、削波以及水下介质对系统性能的影响,并依据比尔朗伯辐射模型建立水下信道模型。（2）基于机器学习的水下可见光信号检测方法研究。针对支持向量机（Support Vector Machine,SVM）在各种介质相互影响的水下通信场景中判决精度不高的问题,给出一种基于后向传播神经网络（Back Propagation Neural Network,BPNN）的信号检测算法。该算法以接收信号的幅度、相位作为网络输入特征,通过给予训练数据多维标签的方式,直接通过单个网络端到端的并行恢复出多位原始二进制比特信号。对该算法在不同水域环境下的误比特率进行仿真分析,并通过硬件平台对其在不同通信链路距离、正交幅度调制（Quadrature Amplitude Modulation,QAM）阶数以及浑浊度下的性能进行测试。理论仿真及硬件平台测试的结果表明,该算法可获得较SVM更高的判决精度。（3）基于机器学习的水下可见光信道估计方法研究。针对最小二乘（Least Squares,LS）算法在水下多径信道环境中估计精度不高以及神经网络无法对无规律的噪声信号进行建模回归的问题,提出一种基于时域消噪的BPNN信道估计算法。该算法首先通过LS算法估计出有效子载波处的信道频域响应（Channel Frequency Response,CFR）,接着通过厄米特对称变换获得全部子载波处的CFR,再进行时域二次消噪,然后提取该值的两个特征建立数据集,最后将其送入网络进行训练。对该算法在不同水下信道路径数的误比特率进行仿真分析,并通过硬件平台测试其在不同距离、调制阶数以及浑浊度下的性能。理论仿真及硬件平台测试的结果表明,该算法可获得较LS算法更好的估计精度。