随着激光强度不断提高、激光惯性约束核聚变实验技术不断进步以及激光天体物理实验的深入开展,相对论激光与等离子体的相互作用正越来越受到人们的关注。从理论上研究相对论激光等离子体和相对论激光与正负电子等离子体的相互作用有助于激光惯性约束核聚变快点火的实现以及实验激光天体物理的开展。本论文首先从李晓卿等人基于动力论得到的相对论激光等离子体中自生磁场的控制方程出发,通过微扰法得到了横扰动的色散方程。从该色散方程得到了特定的条件下最大增长率和与之相应的特征尺度的解析结果。考虑到色散方程的复杂性,我们进行了数值计算。计算结果与实验和数值模拟的结果一致。并且发现,解析结果是数值计算结果很好的近似,可以用之来估算相对论激光等离子体中自生磁场的增长率和特征尺度。其次,考虑到自生磁场控制方程能够自洽的描述高频横等离激元、离声运动和自生磁场的非线性演化,通过数值计算得到了静态极限下电场包络、自生磁场和密度空穴的演化图像。研究发现自生磁场的最大强度与激光本身的振荡磁场为同一量级,而密度空穴的排空率则可达到72%。自生磁场的出现与电场包络的强度和不均匀性相关,正是由于密度空穴中俘获了极强、极不均匀的横等离激元场,磁场才囿于密度空穴中。密度空穴中既存在超强包络电场,又存在超强的磁场。这种腔子结构对于高能粒子的产生,以及准直有着重要的作用。然后,基于李晓卿等人横等离激元动力学理论得到了极端相对论等温正负电子等离子体中相对论激光脉冲的非线性演化的控制方程。基于该方程研究发现,对于一维的线偏振激光而言,在非线性相互作用过程中由于调制不稳定性可形成稳定的孤子结构；考虑到一维结构与三维可能存在显著不同,通过线性分析得到了三维情况下激光脉冲的调制不稳定性的最大增长率和相应的特征尺度；虽然一维存在稳定的结构,但是从标度定律和维里定律可知,三维电磁包络场由于调制不稳定性将坍塌,在场的坍塌过程中场强不断增强,最终形成小尺度的局域结构的强场。讨论了在激光等离子实验中观测到这样一种结构的可能性,以及与脉冲星辐射微脉冲的关联。最后,基于李晓卿等人横等离激元动力学理论得到了相对论激光脉冲与极端相对论非等温正负电子等离子体相互作用中自生磁场的非线性控制方程。从该方程通过线性分析得到调制不稳定性导致的自生磁场的增长率和特征尺度,并讨论这样一种机制在天体物理方面的应用。