无线光通信因其无需频率许可，传输带宽高，组网机动灵活等，已成为宽带无线接入的最佳候选方案之一。本文对无线光组网的自动链路建立进行了深入的研究，首次提出将鱼眼光学镜头结合VADOF原子滤光器的超宽视场捕获方案，用于点对多点无线光链路的快速建立，并对该方案的关键技术进行了论证；此外根据无线光通信的特点，研究了抑制大气湍流影响的信道编码技术，以提高无线光通信系统的性能。本文的主要研究内容如下： 针对无线光组网链路快速建立的需求，提出主节点采用超宽视场鱼眼光学系统，实现对周围用户节点扫描信号的“凝视”捕获，研究了利用VADOF原子滤光器滤除背景光噪声的超宽视场捕获方案，在此基础上，给出了该超宽视场光噪声的检测数理模型，推导了其亚像素光斑定位精度与系统参数(如接收信噪比、成像光斑尺寸等)的理论关系，从成像光斑的高精度定位和高概率检测两方面，对上述方案的可行性进行了分析和论证。 超宽视场鱼眼镜头的光学畸变也会严重影响对入射扫描光束的角度测量，论文分析了鱼眼光学成像的特点，给出了万向节坐标系与探测器坐标系角度坐标的换算关系，提出了一种网格变换下的二维双三次样条插值畸变矫正方法，补偿了鱼眼镜头边缘成像分辨率低的不足，实现了较好的畸变矫正性能，其最大矫正残余误差不超过0.027度。并进一步评估了光斑定位精度、大气湍流等因素对超宽视场捕获链路的影响，论证了主节点采用窄发散角的通信光束作为回馈光信号，精确指向用户节点的可行性，达到了双方光链路闭环的指标要求。 通过对上述主节点超宽视场捕获过程的分析，给出了光链路能够成功闭环的双向捕获条件，论证了用户节点的扫描方式、用户节点的视场角以及主节点超宽视场捕获处理时间之间的约束关系，提出了用户节点自动建立光链路的新型扫描方案。该扫描方案对主节点所处的不确定区域进行了新颖的子区划分，并实施复合型螺旋行列式扫描，缓解了用户端扫描速度和所需接收机视场角之间的矛盾，使得用户节点既可以仅配置αFOV=3.4°窄视场角接收机，又可以快速地扫描，完成光链路的建立。相对于传统扫描方式，这不仅降低了用户节点的设计成本和复杂度，而且对于扫描主节点所处的不确定区域大小为±8°×±8°时，其链路建立的平均捕获时间仅为1.25分钟。 另外，大气湍流会影响无线光通信的可靠性传输，论文通过理论仿真结合外场实验的方式研究了无线光通信系统中的信道编码技术。在实验上完成了光机和通信电路的研制，设计了开关键控(OOK)方式调制半导体激光器的方案应用于室外无线光通信系统；在理论上也进行了相应的通信系统性能仿真。理论和外场实验结果表明，信道编码结合交织技术可以有效地抑制大气湍流对无线光通信的影响。在此基础上，进一步提出了交织卷积编码新方案应用于高码率无线光通信系统。当交织延迟为13.23ms，误码率为10-6时，新方案相对于最佳阈值判决有将近6.9dB的编码增益，并且也优于传统单个编译码器结合传统比特卷积交织的性能。该方案不仅有效地提高无线光通信系统性能，而且也利于实现高码率无线光通信系统的设计。