60GHz光载无线通信(Radio-over-Fiber,缩写为RoF)技术融合了光纤和毫米波两者的优点,既能有效提高毫米波信号的传输距离和减少系统的成本,又能提供大的容量和支持高速率的无线通信业务,因而在多媒体移动通信,固定宽带无线接入网等领域有着广阔的应用前景。本文围绕60GHz-RoF系统中射频子系统的匹配设计及相关技术进行了研究,研究的内容和成果如下：(1)提出了适合于60GHz频段射频子系统的匹配设计方法；提出了一种基于注入锁模和四波混频技术产生倍频毫米波的方法；提出了一种误码率特性可调的光载无线通信系统解调方法；(2)对60GHz-RoF系统中的天线和放大器进行了匹配仿真,仿真结果证实了提出的匹配方法具有可行性；对本文提出的射频子系统方案进行了系统级仿真,仿真结果证明该方案也具有可行性；(3)应用光相位调制器二倍频技术和强度调制器四倍频技术分别搭建了2.8Gb／s／56GHz-RoF实验平台,并验证了该平台的可行性；在相位调制器方案中对于提出的射频子系统方案进行了验证,实验表明：在误码率为1×10-9条件下,56GHz毫米波信号经自由空间传播1.1m后引入的功率代价小于2.5dB；对两种方案的实验结果进行了比较,发现强度调制器方案的误码率性能优于相位调制器方案。