在现代通信系统中，由于光OFDM通信系统在传输比特速率高、可利用频带宽度宽和抗光纤色散（包括色度色散CD和偏振模色散PMD）能力强等方面具有突出优势，同时具备射频OFDM技术和光纤通信技术的优点，光OFDM通信系统已经成为目前下一代光网络中光纤通信领域的研究热点之一。此外，光OFDM技术在频谱效率、数字信号处理、带宽资源分配等方面也具有明显优势。　　 本文在对LS估计算法和LMMSE估计算法研究的基础上，以光OFDM通信系统中基于导频的信道估计算法为研究对象，对光OFDM系统中基于DFT的传统信道估计算法进行了研究，并根据阈值滤波原理提出了相应的改进算法。通过仿真结果表明，改进后的算法使得系统性能高于应用传统算法的系统，在信噪比为22dB时，改进后的算法将系统误码率降低了1dB。与此同时，利用OptiSystem7.0与Matlab进行联合仿真，建立了光相干检测OFDM系统(CO-OFDM)，通过OptiSystem软件中的Matlab Component元件对信号进行OFDM调制与解调，在接收端的Matlab Component元件中应用信道估计算法对接收信号进行信道估计，得出了接收信号的星座图，并通过Matlab绘制出了系统误码率比较图。研究结果表明，使用改进后的基于DFT二次噪声估计阈值滤波信道估计算法使得接收信号星座图信号点更加集中，降低了系统的误码率。