近年来,随着移动智能设备的普及和流行,无线数据业务呈现出指数级增长的趋势[1]。这导致了无线频谱的资源短缺,使得无线频谱成为了宝贵的商业资源。由于无线频谱的限制和高昂的频谱授权费用,无线光通信(OWC)成为了无线通信的互补技术。无线光通信既具有无线通信的灵活性,又拥有光载波的巨大带宽;此外,无线光通信技术还具有无需申请频段、环保节能、安全保密性好、部署灵活等诸多优点,因而具有广阔的研究和应用前景。根据应用的环境的不同,OWC可以分为室内通信和室外通信两种,其中室内通信包括可见光通信(VLC),室外通信包括紫外探测。在室内VLC系统中,作为信号光源的发光二极管(LED)芯片,其3dB带宽为几MHz,存在可调制带宽受限制问题,不能满足高速的通信要求;在信号处理方面,缺少智能的信号处理算法,不能充分的利用信号的特性进行信号处理。在室外的紫外探测方面,紫外探测图像的去噪研究较少,缺少对于移动性的目标的图像去噪算法。本论文围绕无线光通信的需求和难点,重点探索和研究了可见光通信的频谱利用率提升和智能判决算法以及紫外探测图像的去噪算法,主要工作内容如下:第一,分析了可见光通信与紫外探测技术的研究现状,阐述了可见光通信技术和紫外光探测的基本原理。第二,针对可见光通信系统中LED带宽受限的问题,设计了基于空间脉冲幅度叠加调制(SPAM)的可见光通信方案,搭建了8-SPAM的可见光实验系统,完成了实验测试,结果证明8-SPAM能将系统的传输速率提升3倍。第三,为了满足更高速率的需求,设计并实现了波分复用和正交频分复用结合的WDM-DCO-OFDM可见光通信离线系统,完成了测试。系统在传输距离为25cm,误码率低于10-4的条件下,传输速率达到1.2Gbps。第四,针对目前判决算法缺少智能学习的问题,将机器学习技术引入到可见光通信中,提出了 VLC系统接收端基于SVM的信号判决算法,利用该算法对8-SPAM和DCO-OFDM信号进行解调,实验结果表明该算法性能优于传统的直接判决解调方法。第五,设计并实现了基于阚值和滤波融合的紫外探测图像处理去噪算法。通过实验表明,该算法能有效地消除背景噪声。