在当下的信息时代,人们对于通信速率的要求越来越高,现有的通信技术已经难以支持巨大的传输容量,迫切需要更高效的新技术来解决这一问题。由此促进了众多通信技术的产生与发展。非正交多址(Non-Orthogonal Multiple Access,NOMA)可见光通信(Visible Light Communication,VLC)正是其中一项极具潜力的技术,它具有高速率和高频谱利用率的特点。基于以上认识,本文展开了对NOMA VLC系统误码率性能的研究。本文中考虑的是包含两个用户的NOMA VLC系统下行链路,从系统接收端和发送端两个方面进行研究,针对收发两端的不足之处分别提出了解决方案,以改善系统误码率性能。在系统接收端,对应于NOMA技术,常用的解调算法是连续干扰消除(Successive Interference Cancellation,SIC)。当两个用户均采用4阶正交幅度调制(4-Quadrature Amplitude Modulation,4-QAM)时,SIC算法可以很好地对接收叠加信号进行解调,但当两个用户均采用16-QAM乃至更高阶的调制方式时,SIC算法却无法进行正确解调。因此本文提出了一种新的解调算法,即遍历比较(Ergodicity and Comparison,EAC)算法。当SIC算法无法正确解调时,EAC算法仍然可以实现有效解调,由此提高了系统误码率性能。同时,EAC算法对用户接收端来说,复杂度比SIC算法更低。在不同功率分配条件下,蒙特卡罗(Monte-Carlo,MC)仿真分别考虑了用户采用4-QAM、16-QAM和64-QAM这三种情况,还考虑了接收信号削峰现象的影响。结果分析表明,EAC算法可以有效改善双用户NOMA VLC系统下行链路的误码率性能。在系统发送端,本文考虑的是两个用户均采用4-QAM的情况。在两个用户按照功率分配系数叠加得到的星座图内,相邻星座点间的欧式距离通常不一致,这将会恶化系统的误码率性能。因此本文提出了通过调整发送端叠加信号的星座图来改善误码率性能的方法。为了便于比较分析,叠加信号总功率和两用户中功率较大者的信号功率均保持不变。在保证星座图对称性的前提下,引入了4个参数来确定星座点调整位置。同时推导出了调整后两个用户各自的误码率表达式,由此形成了一个最优化问题来寻找最优参数使得系统总误码率达到最小值。在证明了总误码率表达式的凸特性之后,由拉格朗日乘子法得到了最优调整参数。最后通过MC仿真和室内传输实验验证了提出的星座图调整方案对于提高双用户NOMA VLC系统下行链路误码率性能的可行性和有效性。