真实感渲染是通过计算机模拟光线在3D场景中传播的物理过程,它将设计人员创作的由视点、光源、三维模型、角色、材质等组成的三维场景,通过全局光照计算转化为高度真实感的画面,是计算机图形学领域的一个重要研究方向。渲染技术广泛地应用在影视动漫、产品设计、广告设计等行业中,提供各种绚丽而真实的视觉效果。优秀电影和动漫作品的不断涌出离不开真实感渲染技术的不断发展,更加真实的渲染效果将使动漫电影的作品质量得到质的飞跃。高度真实感渲染算法是计算复杂的,尤其是三维动漫和特效电影作品的场景设计都包含大量的模型、材质、灯光等,这使得在作品制作中渲染成为最为耗时的阶段。近年来,随着计算机软硬件技术的发展,大众对渲染的真实感要求越来越高,期待看到与现实世界更为接近的渲染效果,光照传输、材质建模、后处理降噪等渲染流程中的核心问题成为学术界与产业界关注的热点问题。材质描述了光线在物体上的反射、散射、折射等传播特性,与物体的几何属性、物体特性密切相关。传统材质模型往往笼统的描述物体的几何和反射属性,适合于表述简单而有规律的光照反射分布,但光泽表面、头发/动物毛发、皮肤、布料、复杂灯具等物体具有复杂而多变的表面细节,这些细节特征导致物体呈现丰富多变的光照外观,我们将这类物体对应的材质称之为复杂材质,研究其反射分布函数的推导和计算问题。目前复杂材质建模与渲染亟需解决的两个挑战问题:首先,由于复杂材质的特征尺寸小,因此高精度表示复杂特征所需内存空间很大,严重影响复杂材质的建模与表示。其次,当移动摄像机位置时,观察到的表面的细节是不一样的,当摄像机距离物体表面近时,期待看到更多的细节,当摄像机拉远时,期待实现合理的简化。针对上述问题,本文对复杂材质的建模和渲染算法开展了深入的研究。重点关注光泽表面、毛发和复杂灯具这三种常见复杂材质的建模与渲染。由于光泽表面、毛发和复杂灯具在现实世界中随处可见,准确地渲染其外观对渲染结果的影响很大,具有重要的理论研究与实际应用价值。本文主要研究工作与创新点如下:1)提出了基于离散微表面的光泽表面建模与渲染算法,准确、高效地描述由于不连续微表面分布产生的高频光照变化,从而完整了微表面材质建模体系。通过使用基于纹理合成和分层聚类的算法建模光泽表面的微表面分布。使用四维的高斯元素建模光泽表面的法线分布,并在渲染时累积有贡献的离散四维元素值实现对积分的近似,在减少存储空间的同时加速渲染。同时,也利用GPU结构的特殊性,通过设计适合GPU渲染的数据组织形式,优化基于GPU的数据表示与计算,实现实时的光泽表面渲染。2)提出了基于毛发束的高效毛发建模与渲染算法。为了准确地模拟动物毛发的多重散射,基于单根毛发的多次光照散射模型,构建毛发束光照散射模型（包括单次散射和多重散射）,基于神经网络预测求解毛发束反射分布。设计了一种实用的启发式毛发束简化算法,能够实现在不同的观察位置处,不同细节层级的平滑过渡。通过使用毛发束模型可以减少毛发几何占用的内存,高效准确地渲染动物毛发的多重散射。3)提出了基于神经网络的复杂灯具的表示和渲染算法。通过把复杂灯具内部的光照传输记录在包围几何体上,用神经网络压缩包围几何体上记录的光场信息以建模复杂灯具。通过使用包围几何体和记录光场的神经网络,无需复杂灯具的真实几何和材质,减少内存空间。渲染时可以通过神经网络直接查询复杂灯具的外观,实现对复杂灯具的高效渲染。此外,通过训练重要性网络高效重要性采样复杂灯具,实现了复杂灯具的真实感渲染。本文关注复杂材质的高度真实感渲染,所提出的复杂材质渲染模型已经集成到山东大学自主研发的渲染系统“RWing”中,并成功地应用于影视动漫、虚拟现实、数字孪生等领域。