随着微纳技术的发展,光机械系统以其优越的特性成为了量子领域研究的热点之一。光机械系统无论是在量子力学基本问题研究还是在量子信息处理中都有着广阔的应用前景。它可以作为连接光子与声子的桥梁,实现光学模式与机械模式之间的纠缠、压缩以及同步,还可以作为量子转换器和控制设备执行光学模式和机械模式之间的信息传递和操控。同时它还可以利用边带冷却制备振子基态,利用位移耦合效应实现超灵敏探测以及光学相位的非破坏测量。特别是LIGO系统对引力波的成功探测,更是将光机械推向了一个令人瞩目的焦点。在光机械系统的研究中,为了弥补由于光子和声子频率的巨大差异带来的耦合效应弱的缺憾,一方面,人们在不断的提高实验手段以便提高单光子耦合率；另一方面,人们可以通过增加光机械腔内的光子数,利用光子的集体统计效应放大光学模式与机械模式之间的线性耦合。在马尔科夫参数域下这一方案在实验和理论上都得到了很好的验证与发展。相比而言,光机械在非马尔科夫参数域和非线性参数域下的理论工作为数不多,实验上更是寥寥无几。为此本文将致力于光机械系统在非马尔科夫和非线性参数域下的理论研究。在非马尔科夫而环境下,我们研究了一个基本的光机械系统在非马库中的边带冷却和超灵敏探测。通过严格求解光机械系统在非马环境下的动力学,我们发现振子的非马环境因其记忆、回流效应可以提供一条额外的冷却路径,当这条路径的冷却速率高于环境的热传导速率,即使库的温度远高于振子温度,我们仍然能利用环境冷却振子。随后,通过在频域下求解光机械系统,我们给出了在一般环境下光机械超灵敏探测设备输出信号的形式解,经过对比分析我们发现,在某些有耦合结构的环境中,系统对外界的能量响应可以被集中在检测信号频率附近,从而能提高系统的信噪比,降低探测的附加噪声。在非线性效应方面,我们研究了光机械系统的等价Kerr非线性,通过设计系统结构我们提出了一个利用光机械系统构造量子受控相位门的理论方案,此外,我们还分析了由复合光机械系统的自Kerr性以及量子干涉带来的正常阻塞和反常阻塞效应,并给出了利用该效应实现量子二极管、单光子源以及光学存储-释放器的理论方案。本文对非马尔科夫和非线性方面做出的研究对光机械系统的理论发展具有一定的积极意义,为光机械系统在基态冷却、超灵敏探测以及量子信息处理方面的潜在应用提供了理论支持。