随着人们对大容量、高带宽的无线接入需求越来越迫切，作为能极好的满足人们这一需求的60GHz RoF系统发展日新月异。但是由于60GHz毫米波处于比较高的频段，尤其是60GHz RoF系统中的无线终端收发模块，在实现方案上存在一些缺陷，实现器件也存在很大困难，制作成本比较高，同时我国对毫米波相关器件的研究上也与其他国家存在差距。因此，对60GHz RoF系统中的无线终端收发模块的研究具有非常重要的意义。本课题主要针对60GHz RoF系统中的无线终端收发模块进行了深入研究。主要内容为：1．针对现有的60GHz无线终端收发模块方案中存在的I/Q两路信号正交失配和本振泄露的问题，本文提出了一种新颖的60GHz无线终端收发模块方案，解决了以上缺陷；2．利用二次分谐波混频原理设计了所提出的方案中的重要组成部分60GHz毫米波混频器，设计的该混频器能够将中心频率为60GHz的毫米波信号下变频到中心频率为1.5GHz的中频信号，混频器各端口的隔离度大于20dB，混频器的变频损耗小于17dB，最好的情况下，混频器的变频损耗能够达到5.4dB，同时混频器的输入信号跟输出信号功率基本呈线性关系；3．采用了光学仿真软件VPI和射频仿真软件ADS的联合仿真，充分发挥了两大软件各自的优势，将光信号和电信号结合到了一起，对设计的60GHz RoF系统中的无线终端收发模块进行了仿真验证，验证了本论文中设计的60GHz无线终端收发模块的正确性和可行性，并对仿真结果进行了分析。同时对设计的60GHz无线终端接收模块进行了加工前的系统性能预估计，得出该无线终端接收模块能够达到良好的输出信噪比和接收灵敏度。最后通过搭建的实验平台对部分60GHzRoF系统进行了辅助验证。