光纤通信的发展受益于全球网络通讯和数据通信需求的增加,随着5G网络,VR/AR,云计算等多种终端和应用的快速发展,数据流量高增长趋势有增无减,对带宽的需求越来越高。而目前广泛应用的相干光通信系统,在使用光锁相环(OPLL)的同时还要通过数字信号处理(DSP)来解决系统中本振光和信号光不能完全匹配的问题。这种设计难度较大,也会影响到系统的性能。为了避免这样的问题,本文给出了一种新型反射式相干光通信结构作为尝试,将激光器放在接收端,光载波信号在发射端反射回来后进行调制再进入光纤传输,这种只采用一个激光器的设计可以避免光锁相环的使用,同时可以应用在保密通信或某些特殊应用的光纤通信系统中,具有潜在的价值。本文从理论分析上,仿真模拟上,实验探究上验证了新型反射式同步零差相干光通信系统方案的可行性。本文简要介绍了光纤通信的发展,相干光通信中技术的分类及发展现状。接着分析了作为相干光通信中的关键器件,铌酸锂电光调制器的调制类型和原理,微波和光波的速度失配,正常传输情况下,信号调制过程,及新型的反射式铌酸锂调制方式下的信号传输情况。根据实际应用情况选择和调整铌酸锂调制器的关键参数,实现本实验的要求。理论验证方案可行后,本文给出了反射式零差相干光通信系统模型设计框图,详细阐述了BPSK和DP-BPSK两种调制方式下零差相干光通信系统的结构,对其中使用的平衡探测技术,偏振复用调制解调原理进行了介绍,分析了信号传输过程。利用MATLAB和OptiSystem仿真软件对实验系统进行仿真。针对仿真结果,对系统的星座图、Q因子、眼图、误码率进行了详细的分析,均反映出在误差允许的范围内,反射式相干光通信系统完成了相应的调制和解调,系统的性能良好。最后通过实践的方式,初步搭建了实验平台,进一步验证了反射式零差相干光通信系统的可行性。本文通过两个实验对照,首先进行了传统相干光通信系统的实验论证,从频响效应上可以得到解调后信号的大小,接着对反射式零差相干光通信系统进行实验测试,结果也在预期效果之内。分析可能出现问题的原因,并对该系统的设计提出改进后的方案。通过对比两个实验达到的效果,分析系统的性能,对比采用的器件数量种类,分析成本上的差异,说明了本文设计的反射式同步零差相干光通信系统是可行的,在实际应用中具有潜在的价值。