最近几年以来,量子腔光机械系统正突飞猛进地发展着,并成为理论和实验上广泛关注的一个热点。比较典型的腔光机械系统是由一个光学谐振腔和一个纳米机械振子相互作用耦合而成。在该系统中,腔内光场的辐射压作用在机械振子上,使机械振子在本征频率附近做自由振动,该振动又反过来对光场的频率有调制作用。由于腔光机械系统具有多种独特的特性,例如该系统具有超高品质因子、超高频率,超轻有效质量,超高灵敏度等性质。基于这些优点,可用来进行力和位移的探测和测量。如果将腔机械系统与其它量子系统(如原子、电子、量子点等)耦合,该耦合系统同时可进行许多量子现象和基本量子定律的检测,例如,原子辐射谱的精确测量,激光俘获技术,超冷原子的操控以及单个原子产生力的探测。通过辐射压实现的机械与光场自由度的相互作用在机械运动的控制和测量上正经历着新的模式转换。光压耦合已经打开了未来的科学技术应用的大门。随着不断趋于小型化和低耗散的腔光机械模型的出现,无论是在技术方面还是在基础科学方面将为微型机械振子的探测提供一种可行的方法,并对机械和光进行全方式的控制。它将可能超越精密测量,成为控制冷却和放大的新技术。同时,量子腔光机械系统控制的实现在量子信息处理方面有着巨大的应用价值。本文以腔光机械系统为研究对象,讨论了腔内光子的隧穿效应,介质薄膜的位移和频率的操控,以及光腔内原子辐射谱和光场谱在不同实验参数下的探测。调节光机系统中腔场谱的强度可以实现光子-声子的转换。为纠缠态制备和应用量子信息传递,量子通信提供一个广阔的前景。全文一共分为五章,其中第三到第五章包含博士期间的主要研究工作,论文具体的内容安排如下：第一章介绍腔光机械系统的研究背景、研究现状和应用,介绍几种典型的腔光机械系统模型和系统实验参数要求。最后给出该论文的主要研究工作和章节安排。第二章简单介绍腔光机械系统的基本原理以及本论文所用到的基本概念和基本方法。腔光机械系统的基本原理主要包括腔场的输入输出理论,纳米机械振子的布朗运动,辐射压的本征模理论和半经典理论,以及系统的光学双稳态。基本知识和基本方法包括非线性量子朗之万方程,平均场近似和物理谱基本概念等。第三章主要讨论介质薄膜型腔光机械系统光子数反转和薄膜位移的探测。首先,通过数值模拟的方法研究并讨论了在不同实验参数和系统初态下的腔内光子数反转的量子特性。此外,通过开放系统主方程,在平均场近似下得到一个非线性方程组,讨论了腔内光子数反转和机械薄膜的位移之间的量子关联。结果发现通过调节腔内光子数可以实现机械薄膜振动频率和位移的操控。同时系统的退相干效应也被考虑进来。第四章讨论了囚禁在法布里-珀罗腔内的一个二能级原子的辐射谱。首先,研究了不同实验参数和耦合强度,以及不同系统初态下光子数和声子数对腔内原子辐射谱的影响,同时根据原子辐射谱的基本特征,分析了机械振子的量子特性。其次,在弱光机耦合极限下,通过泰勒级数展开方法得到了原子辐射谱的解析解,并且分析了解析得到的原子辐射谱与数值模拟得到的原子辐射谱之间的差异。最后,在充满非线性Kerr介质的腔内,讨论Kerr介质对原子辐射谱的影响。第五章考虑一个充满Kerr介质的法布里-珀罗腔光机械系统,该系统被一个泵浦激光所驱动。通过平均场近似,发现该系统出现光学双稳态。此外,也讨论了不同系统初态下,耦合强度,Kerr系数对腔光机械系统中腔内光场谱的研究。最后,我们给出全文的总结和展望。