向列相液晶(NLC)材料具有独特的光学特性，向列相液晶的非线性现象及其应用已在科学研究领域开拓出新的方向。这其中的原因在于其成本低、制备方法简单、高敏感性和较大的取向非线性，且通过掺杂或外加电场可使向列相液晶的非线性响应得到很大的改善。但目前来看向列相液晶中很难形成稳定的永久光栅，且分辨率较低，因此不适于大密度数据存储领域的应用，但是随着对向列相液晶中全息光栅形成机制的不断深入研究、光栅响应时间和分辨率的不断改进、衍射效率的不断提高，这种新近发现的全息记录材料有望成为动态全息领域的理想材料。本论文以掺杂 C60向列相液晶为研究对象，通过理论、实验和数值模拟的方法对液晶中记录的光折变全息光栅的衍射、耦合放大特性进行了详细系统地研究，以此为基础研究了基于掺杂 C60向列液晶取向光折变效应的动态全息存储和空间自相位调制现象。　　首先，在传统的光折变效应的基础上，给出了表面电荷调制的物理模型。认为表面电荷调制分布在界面附近，在加载外加电压后，载流子的注入将在电极和液晶薄膜之间的界面处形成一双电荷层。调制的光强照射到样品之后，由于电荷的解吸附作用将在表面产生调制的电场。表面电场存在两个分量，一是平行于光栅波矢方向(与调制光强分布有/2π的相移)，另一个分量则垂直于液晶盒的表面(与调制光强分布同相位)，且以指数形式衰减。　　利用二波耦合(TBC)实验研究了自行制备的掺杂 C60垂直排列的向列相液晶(5CB)样品中形成光折变全息光栅的动态和稳态衍射特性，包括时间响应特性、非对称光束耦合特性以及外加电压的影响等。在20μm厚的掺杂C60的向列液晶中记录的光折变全息光栅(光栅间距24μmΛ≈)中获得了高达40％的一阶衍射效率，且衍射强度分布极不对称。通过与衍射理论结果比较，发现该20μm厚的液晶样品中产生的薄光折变全息光栅的衍射特性与正弦形纯相位薄光栅给出的衍射特性相差甚远。我们认为薄光折变全息光栅的高一阶衍射效率来源于 NLC中非正弦调制的空间电荷场，这种不对称空间电荷场产生的光折变全息光栅将会使得衍射能量向0阶衍射的一侧转移。向列相液晶中非正弦调制的空间电荷场与界面性质及表面电荷分布有着密切关系。　　基于取向光折变效应，对自制样品的动态全息存储现象进行了研究。提出了一种新的动态全息图像的存储和再现方法，即低电压记录，高电压再现。通过这种方法实现动态全息图像的存储和再现。实验发现，全息再现过程中外加电压可以使隐藏光栅瞬间衍射效率增强。利用向列相液晶取向光折变效应体机制的Carr-Helfrich效应和表面电荷调制机制对此现象给出了解释，认为体电压的增强是表面电荷调制的结果。通过数值模拟方法进行了研究，数值模拟结果与实验测量的吻合也证实了所提出物理机制的正确性。　　最后，对向列相液晶中空间自相位调制现象进行了研究。远场衍射图样主要有两种类型的衍射图样，即衍射图样为中心亮斑的较细同心圆环，中心暗斑的较粗同心圆环。利用Kirchhoff- Fraunhofer衍射积分进行数值模拟发现，衍射图样的结构主要由光束结构和附加相移两个参数确定。利用二波耦合实验可实现有对称缺口的各向异性远场衍射图样，且与光束的偏振态有很强的依赖关系。产生的机制是，当高斯光束通过样品时引起了径向分布的附加相移。同样利用 Kirchhoff-Fraunhofer衍射积分对衍射图样进行了数值模拟，模拟结果与实验现象非常吻合。