作为传统无线电通信的有益补充,可见光通信（Visible Light Communication,VLC）是一种新型绿色的无线光通信技术。一方面,受荧光材料和制备工艺的影响,常用市场LED器件的可调制带宽及频带利用率不足;另一方面,可见光信道干扰与光源布局紧密相关,影响系统频谱效率性能。针对这一问题,本文探讨非正交多址（Non-Orthogonal Multiple Access,NOMA）应用于可见光通信,旨在提升频谱利用效率。围绕NOMA-VLC的理论研究,本文重点面向频谱效率优化,分析功率资源分配、可见光信道特点、光源布局参数对频谱效率性能的影响,形成了四方面研究,主要开展工作如下:1.NOMA-VLC信道增益概率分布推导及性能分析。考虑到可见光信道增益分布及光源布局参数对频效性能产生重要影响,本文分析了室内NOMA-VLC条件下的信道增益概率分布,及其对频谱效率性能的影响。针对单小区,基于Lambertian辐射模型及一定条件,对于任意两均匀分布用户,利用泰勒级数展开近似推导了可见光信道增益差分概率分布,用于指导分析包括信道差异在内的光源布局对NOMA频谱效率性能的影响。针对多小区,基于规则布局及一定条件,分析了用户关联策略性能,分析了频谱效率提升的充分条件,近似推导了场景发生概率及信道增益比例概率密度分布。理论分析给出了单小区信道差异化光源布局中半功率角的极值特点、多小区交叠区用户的性能概率,为后续研究提供理论铺垫;仿真表明,数值现象与理论分析一致。2.基于GRPA约束的NOMA-VLC功率分配算法研究。在单小区用户间同信道干扰情形下,基于信道增益的动态系数功率分配（Gain Ratio Power Allocation,GRPA）算法,本文改进提出了一种功率分配算法。首先,为便于定量分析,提出了频谱效率性能近似界,并在可见光信道下分析了界差;然后,基于可见光信道,当两、三用户时,证明了所提算法频谱效率性能优于对比算法,当三用户以上情形时,数值仿真分析了所提算法保持性能优势;最后,基于近似界及一定条件,推导了所提算法性能可达极值的条件性质,给出了光源布局下性能优势的必要条件。理论分析给出了单小区NOMA-VLC频谱效率性能的半功率角极值特点,解析了所提算法的性能程度。仿真表明,近似界较好地贴近原有界数值现象,验证了多用户情形,所提算法较对比算法取得性能增益,验证了若干光源布局参数的解析条件性质。3.基于交叠区约束的NOMA-VLC功率分配研究。在多小区存在交叠区邻道干扰情形下,基于前人方案的交叠区约束假设,本文进一步作了NOMA-VLC频谱效率性能解析工作。首先,基于中心区域和交叠边缘区域,改进提出了频谱效率性能近似界,并在可见光信道下分析了界差;然后,分析了近似界成立的光源布局参数条件,近似推导了紧致充分条件和松弛必要条件;最后,基于近似界及一定条件,近似推导了功率分配算法及其条件性质,分析了光源布局中覆盖半径与功率分配的影响。理论分析给出了近似界差与光源布局参数的解析关系、近似解析了功率分配的频谱效率性能程度;仿真验证了紧致充分条件和松弛必要条件的光源布局性质和NOMA-VLC性能特点,所提算法接近数值优化结果,探索了光源布局参数与近似界间关系规律。4.基于QoS约束的NOMA-VLC功率分配研究。在用户间同信道干扰和交叠区邻道干扰情形下,研究了用户期望速率和实际资源分配之间的关系,重点研究了QoS（Quality of Service）约束,包括QoS动态优先级和最大化最小可达速率约束。针对QoS动态优先级保障,首先鉴于优先级的逻辑解析表达困难,引入了模糊逻辑算法;然后,选取信道增益、中断概率、QoS需求速率等特征,推导了NOMA-VLC中断概率密度分布,设计了面向QoS优先级需求的功率分配算法;最后,仿真验证了对比算法不能有效满足用户的QoS动态需求,反映了所提算法对于对比算法,牺牲一定频谱效率性能下,具有较优的QoS满意度和公平性。针对最大化最小可达速率约束,首先,将Rate-Splitting Multiple Access（RSMA）框架引入到多小区可见光中,建立RSMA-VLC信号模型;其次,对于预编码和功率约束,施加可见光信道特点,并优化公共信息的最大化最小可达速率;最后,仿真表明RSMA-VLC较对比算法,取得更优的频谱效率性能,初步反映了RSMA-VLC比功率域NOMA-VLC更具有灵活管理用户间和小区间干扰的特点。