为了利用不同量子系统的优点,科学家们提出了混合量子系统的概念。在各种混合系统中,腔自旋波混合系统受到了人们的广泛关注。一般情况下,腔自旋波混合系统由三维微波腔中的微波光子（腔模）和钇铁石榴石（YIG）样品中的自旋波量子（Kittel模）组成。由于自旋之间的海森堡交换作用,YIG材料内部的自旋系综可以同时拥有较高的自旋密度和较低的耗散率,这使得腔自旋波混合系统可以达到强耦合区,甚至超强耦合区。利用腔自旋波混合系统良好的可调性和相干性,可以实现一些新颖的物理现象,比如自旋波量子梯度存储和腔自旋波电子学。除此之外,自旋波量子还可以和超导量子比特,声子和光学光子相互作用。将来,有望以自旋波量子为核心,将不同的物理系统耦合起来,实现一个多功能的量子网络。本博士论文中,我们理论上研究了腔自旋波混合系统中的非线性和非厄米性。非线性效应广泛地存在于各种物理系统中。在以前的自旋波研究中（没微波腔）,由于YIG材料的磁晶（或形状）各向异性,自旋波量子之间存在相互作用,其可以导致自旋波模的双稳效应。作为一种基本的非线性效应,双稳不仅对基础物理研究很重要,而且在开光和存储方面有着潜在的应用。第三章中,我们在腔自旋波系统中研究了自旋波克尔效应,其中一个YIG小球内的Kittel模和三维矩形微波腔内的腔模相互作用。在考虑YIG材料的磁晶各项异性的情况下,我们可以用一个谐振子与一个克尔非线性振子耦合的模型描述该混合系统。这里,在偏置磁场沿着YIG的[100]（[110]）晶轴的情况下,自旋波克尔项的非线性系数为正（负）。当自旋波量子激发数目较多时,克尔非线性项可以等效成自旋波量子的有效频率移动。调节自旋波量子的频率使其和腔模大失谐（即近似解耦）,此时,可以利用色散读出的方法测量自旋波量子的频率移动。此外,在腔自旋波极化激元的基底下,我们证明了腔自旋波极化激元的双稳。对于正（负）的克尔系数,极化激元的频率移动随着驱动功率呈现出逆时针（顺时针）的迟滞回线环。第四章是第三章的拓展,在更一般情况下研究了腔自旋波极化激元的双稳效应。实验上除了直接驱动YIG球,还可以直接驱动微波腔。对于两种驱动方式,可以得到类似的双稳效应,但对应的临界功率不同。当微波光子和自旋波量子大失谐（近共振）时,直接驱动微波腔所需的临界功率远远大于（近似等于）直接驱动YIG小球所需的临界功率。除此之外,我们证明可以通过测量微波腔的传输谱来探测腔自旋波极化激元的双稳效应。我们的工作将腔自旋波混合系统的研究带到了非线性区域,对实验有一定的指导意义。相比于其它物理系统中的双稳效应,腔自旋波极化激元的双稳效应更容易控制。在量子力学中,为了保证拥有实的能谱,系统的哈密顿量必须是厄米的。然而,实际中所有的物理系统都会和环境相互作用从而产生增益或者耗散。一般情况下,大家利用量子郎之万方程或者主方程来处理这种非厄米的问题。其实,可以把这种耗散或增益包括到哈密顿量中,即非厄米量子力学。在非厄米物理中,奇点是一个很重要的概念,其中n-阶奇点代表线性的非厄米系统中n个本征模合并到一起。当非厄米的物理系统拥有赝厄米性时,系统的本征能谱也可以是实的。第五章中,我们在赝厄米的腔自旋波混合系统中研究了三阶奇点。将两个YIG小球置于三维微波腔中,实现了两个Kittel模同一个腔模的耦合。在合适的参数条件下,系统的有效哈密顿量具有赝厄米性,其中腔模的有效增益来源于微波腔对两束输入场的相干完美吸收。赝厄米性保证了系统的三个本征值要么都是实的,要么有一个是实的,另外两个组成一个复共轭对。通过调节两个Kittel模和腔模之间的耦合强度,我们发现在参数空间中存在三阶奇点。实验上,通过测量微波腔的总输出谱,可以观测到系统的赝厄米性和三阶奇点。相比二阶奇点,三阶奇点具有更丰富的物理,比如更复杂的拓扑性质和进一步提高探测器的灵敏度。此外,我们提出的方案或许可以用来探索其它有趣的赝厄米现象。