近几年,移动通信技术快速发展,第五代(the 5th Generation,5G)移动通信系统已正式进入商用,对于第六代(the 6th Generation,6G)移动通信系统的技术探讨也正在积极开展,可见光通信(Visible Light Communication,VLC)被认为是6G技术发展的一个重要方向。可见光通信主要使用发光二极管(Light Emitting Diode,LED)传输数据,使用光电二极管(Photodiode,PD)进行检测,以可见光波段中的光作为信息载体,具有超高带宽,无电磁污染,绿色环保等优点,可广泛应用于室内通信等场景。本文主要研究室内可见光通信系统,由于LED发光的覆盖范围有限并且具有较强的方向性,因此系统结构设计和部署方案对系统性能至关重要。首先,本文在不同的室内可见光通信系统模型下,研究了可见光通信系统接收机的结构设计和性能。在室内多输入多输出(Multiple Input Multiple Output,MIMO)可见光通信系统中,因为信道相关性较高,因此设计了一种具有不同视场角(Fieldof View,FOV)的 PD的角度分集接收机(Angle Diversity Receiver,ADR),称为 2FOV-ADR。2FOV-ADR可以改善MIMO信道,得到良好的信道矩阵,与传统接收机相比,具有更高的均衡器输出端信噪比(Signal to Noise Ratio,SNR)和更低的误比特率(Bit Error Rate,BER)。在室内多小区可见光通信系统中,为了减轻小区间干扰,设计了一种降低区间干扰的2FOV-ADR,并对其结构进行了优化,确定了其最优仰角和最佳合并方式,仿真结果表明,2FOV-ADR与传统接收机相比,具有更高的信干噪比(Signal to Interference and Noise Ratio,SINR)和面积频谱效率(Area Spectral Efficiency,ASE)。之后,在考虑接收机水平旋转的情况下,设计了一种优化视场角的角度分集接收机,称为OFOV-ADR。通过对PD视场角进行优化,使其可以无干扰的接收来自LED的信号,提高了接收机SINR性能并且降低了水平旋转对SINR性能的影响。然后,本文研究了多LED角度分集发射机(Angle Diversity Transmitter,ADT)的结构和应用,并基于此研究了空分多址(Space Division Multiple Access,SDMA)室内可见光通信系统。与使用单LED发射机的TDMA系统相比,SDMA系统具有更高的面积频谱效率,且发射机LED单元数量越多面积频谱效率性能越好,但对用户的位置误差更加敏感。之后,进一步研究了 SDMA系统的物理层安全性能,仿真结果表明其具有比TDMA系统更高的保密吞吐量,且发射机LED单元数量越多保密性能越好。最后,本文研究了提高室内可见光通信系统物理层安全性能的系统设计方法。通过使用随机几何的数学工具,分析了房间中心位置典型合法用户的保密中断概率、遍历保密速率及其上下限的解析表达式,并进行了仿真验证,之后比较了通信接入点(Access Point,AP)的两种布局,即泊松点过程(Poisson Point Processes,PPP)布局和方形布局的系统安全性能,然后仿真分析了合法用户在室内不同位置处的遍历保密速率分布。结果表明,系统设计时增加AP的数量、使用半功率强度角更小的LED、设置保密保护区、规则的AP布局都可以提高系统的物理层安全性能。