正交频分复用（OFDM）技术具有频谱效率高、兼容各种基带调制格式和便于利用数字信号处理算法等优点，因此被研究者公认为是下一代光接入网——无源光网络（PON）中最具竞争力的方案之一。但是当前OFDM-PON系统中，OFDM技术更多的是作为一种传输手段。因此如何充分利用OFDM技术的优点，针对PON系统的特点设计合理的方案以提高OFDM-PON系统的效率和灵活性成为OFDM-PON系统研究亟待解决的问题。针对系统的传输效率问题，论文主要从提高系统频谱利用率以及减小传输冗余两个方面着手。在提高频谱效率方面，论文提出了一种基于离散傅立叶变换的快速OFDM信号的产生和解调方法，使快速OFDM具有了和普通OFDM一样的单边带信号的特性和几乎一样的产生和解调方法，使其能方便的用于OFDM-PON系统。在减小传输冗余方面，论文充分考虑OFDM-PON作为接入网系统传输距离较短，链路切换迅速，信道特性相对固定等特点，提出了一种新的链路色散补偿方法。在只添加一个训练码的条件下，利用每个子载波上星座图本身的特点来进行链路色散补偿，不仅大大减小了因为频繁添加训练码导致的传输冗余，还提高了系统对于链路切换的响应速度。论文主要从光网络单元（ONU）无色化和基于选择性接收的OFDM-PON系统速率分配两个方面着手提高系统灵活性。论文利用OFDM信号频谱与其基带数据之间的特殊对应关系，构造出一种信号边带与载波相分离的特殊的OFDM信号，因此下行信号的载波很容易被滤出并复用做上行传输。基于此论文提出了一种利用周期性光滤波器的无色ONU方案，并实现了系统上行、下行的对称速率传输。在带宽分配方面，论文将关注点转移到实际的传输速率上，提出综合利用Bitloading和Power loading在固定用户带宽的情况下进行传输速率灵活分配的方案；在信号接收方面，论文打破当前以OFDM边带为最小接收单位的思路，提出一种利用相干混频以及带限接收机的选择性接收方案，使得ONU可以直接接收其感兴趣的任意子载波。论文提出的基于选择性接收的系统速率分配方案极大的降低了OFDM-PON系统对ONU接收机的带宽要求，从而大大降低了系统成本。