伴随着时代的发展,人们对通信速率,通信带宽的需求也变得越来越大。此外,远程医疗、视频播放、以及物联网等业务的快速发展,也增大了人们对通信带宽的要求。在全球的宽带化进程中,用户有线接入来实现“最后一公里”已经不可能跟上网络发展的节奏,反而会制约全球的网络带宽发展,于是研究新型的宽带无源光网络已经迫在眉睫。正交频分复用光接入网(OFDMA-PON),以其良好的抗色散和偏振模色散的能力,以及在接收端灵活的数字信号处理等特点极有可能成为下一代光接入网的应用接入标准之一。本文设计了一种基于RSOA和高阶QAM调制(32 QAM)的OFDMA-PON自零差传输系统。并对系统的上行和下行的性能进行了测试。之后本文给出了判决辅助加时域近似算法,该算法对ICI相位噪声进行了补偿,使得较大的激光器线宽下,也能够得到比较好的降低系统误码率。本文主要的研究成果如下:(1)本文设计了一种基于RSOA和高阶QAM调制(32 QAM)的OFDM-PON上行传输系统。在上行传输中,上行用户选用不同子载波加以区分,为充分利用上行波长资源,将ONU就区域位置就近分为多个小区,每区ONU共用一个波长。在OLT中设置中心化上行光源,通过下行为ONU中的RSOA提供上行光波波长。在上行接收端,对每个区域内共享一个波长多个ONU光OFDM信号设计了自零差相干接收机,以提高接收机灵敏度,实现ONU用户到OLT的大容量、长距离上行接入。为了避免ONU上行OFDMA信号的精确同步操作,对每个区域内的ONU的上行光OFDM信号经相干接收机转化为基带OFDM信号后,在电域按频率进行滤波,然后分别进行模数转换(ADC)后,经过相应FFT处理器实现OFDM解调。下行传输采用广播的形式进行数据的传输,在ONU端均有解调器,各个用户根据自己的需要解调自己所需要的信息。另外对系统的可靠性进行了研究。(2)分析了相位噪声的形成原因,给出了判决辅助加时域近似算法,在该算法中,首先信号要完成CPE补偿,信号的频域部分进入判决与迭代的步骤,之后进行ICI的补偿,时域信号则直接经过ICI相位噪声时域算法进行补偿。然后将结果的频域部分再次与初始值进行判定并进行补偿,以此方法进行迭代,经过多次迭代之后,将最后的补偿结果送入到QAM解调端进行解调。最后在基于RSOA调制32QAM OFDM-PON传输系统中的上行方向上对该算法的性能进行了分析。