偏振复用相干光正交频分复用（PDM CO-OFDM）技术结合了偏振复用技术、相干检测技术和正交频分复用技术,具有信道容量大、传输距离长、传输速率快、频谱效率高、色度色散（CD）和偏振模色散（PMD）容忍度高的特点。但是,PDM CO-OFDM系统中器件的非理想性会导致OFDM符号的同相信号和正交相信号间的幅度和相位不平衡。为了解决PDM CO-OFDM系统IQ不平衡估计问题,本文主要研究了系统的训练序列设计和相位噪声对IQ平衡估计算法的影响。（1）针对IQ不平衡估计训练序列设计问题,本文设计了一种镜像载波置零训练序列用于估计和均衡PDM CO-OFDM系统IQ不平衡。该结构利用镜像载波调制信息置零来抑制IQ不平衡引入的镜像载波干扰,提高了IQ不平衡和信道估计精度。仿真结果表明,在传输速率为100Gb/s,收发两端激光器线宽为100k Hz时:在发送端相位、幅度不平衡分别为10^°和2d B的条件下,镜像载波置零结构可以实现1060km的信息传输,与镜像载波共轭训练序列相比,提高了300km,在接收端相位、幅度不平衡分别为10^°和2d B的条件下,镜像载波置零结构可以实现1020km的信息传输,与镜像载波共轭训训练序列相比,提高了320km。（2）针对相位噪声影响的IQ不平衡估计训练序列设计问题,本文通过理论分析和仿真结果证明,在背靠背条件下,误码率为1×10^-3时,镜像载波置零方案可以容忍600k Hz的激光器线宽,而镜像载波共轭方案不能容忍任何的激光器线宽,设计了三种类型的镜像载波置零训练序列验证结论的普遍性。仿真结果表明,在发送端相位、幅度不平衡分别为10^°和2d B,传输速率为100Gb/s,传输距离为1040km的条件下,结合公共相位噪声误差估计算法,设计的N×4和N×3训练序列分别可以容忍700k Hz和820k Hz激光器线宽,对比的N×4和N×3镜像载波共轭训练序列均不能容忍任何激光器线宽,设计的N×2训练序列容忍的激光器线宽从880k Hz增加到1060k Hz,N为每个训练符号的子载波数。（3）针对PDM CO-OFDM系统收发两端同时存在IQ不平衡问题,本文设计了一种镜像载波置零的训练序列用于联合估计信道信息和IQ不平衡因子,因为训练序列不能将信道信息和IQ不平衡因子分开,所以利用信道均衡恢复发送信息。仿真结果表明,在系统收发两端幅度、相位不平衡分别为2d B和15^°、传输速率为100Gb/s、传输距离为1040km和误码率为1×10^-3时,提出的训练序列对应的信噪比代价为23.5d B,而对比方案不能实现数据的有效传输。