量子系统根据与环境的相互作用关系,可以分为封闭量子系统和开放量子系统。如果量子系统处于绝对零度条件下或者系统自身与外部环境没有任何相互作用,则这样的系统被称为封闭量子系统,但在实际量子应用中,量子系统自身往往和热库、热浴等系统所处的外部环境之间存在相互作用,成为开放量子系统。如果开放量子没有记忆效应,称这样的量子系统为马尔可夫开放量子系统(Markovian open quantum system),否则称为非马尔可夫开放量子系统(non-Markovian open quantum system)。对量子系统进行的测量过程可以看成量子系统所处的一种外界环境。由于测量给系统带来了噪声,此时的量子系统状态具有随机性质,称为随机开放量子系统(stochastic open quantum system)。本论文主要研究内容是对随机开放量子系统的系统模型和状态反馈控制的特性分析和对非马尔可夫开放量子系统的状态保持控制分析。1.对随机开放量子系统的模型和反馈控制特性进行分析。对量子反馈控制系统,梳理量子滤波理论建立的系统模型：包括薛定谔绘景下描述估计状态的随机演化过程的随机主方程,描述量子角动量模型的简化随机主方程,线型随机主方程,考虑环境消相干影响和整个控制环节中延时影响的随机主方程；对模型所建立的条件、模型的组成成份及其所产生的影响、模型的简化过程、不同模型之间的相互关系等进行剖析。在各类随机开放量子系统模型的基础上,分析实现状态转移的反馈控制律的设计方法和控制效果。首先对于自由演化的随机开放量子系统,系统的状态会随机收敛到测量算符的某一个本征态。根据测量信息施加反馈控制后,系统量子态会确定地收敛到测量算符的一个确定的本征态。对于量子角动量系统,分析利用李雅普洛夫稳定性定理设计出的开关和改进的连续控制律的组成结构,分析不同控制律结构如何使系统状态处于与目标态相关的不同集合中确保系统状态收敛到目标态；最优控制理论只能对线型随机主方程,根据与系统状态有关的性能函数得到解析的控制律来实现状态转移；反馈控制能保持消相干影响下的随机开放量子系统的相干性；考虑延迟因素的随机主方程,目前根据李雅普洛夫稳定性定理可以设计出解析的反馈控制律,在已知的任意长时间延迟下实现状态转移控制。2.对非马尔可夫量子系统进行状态保持控制。以非马尔可夫的开放二能级量子系统为研究对象,利用李雅普洛夫稳定性定理设计状态保持控制律,并通过MATLAB环境进行系统仿真实验。通过粗调和细调两个控制参数,观察控制参数与系统状态保持时间之间的关系,找到具有最长保持时间的控制参数组合。