自从市场上有了障碍期权交易,其发展极其迅速,现在,障碍期权的种类已发展成数十种,它的出现给风险管理者们提供了有效的规避风险的方法,这样他们就可以减少不必要的费用,从中获得丰厚的利润,障碍期权的定价也自Fisher Black、Myroncholes和Robert Merton在期权定价方面取得了重大发展之后,障碍期权在金融风险市场便得到很快发展.使其相对于标准的美式,欧式期权,交易方式灵活、收益更符合投资者意愿、而且价格更加便宜,因此也更受投资者的喜爱.所以如何给这类奇异期权定价已成为金融数学领域研究的热点课题之一.由于经典Black-Sholes模型假设过于理想化,使得该模型在描述系统风险部分和实际数据差别较大,所以人们开始尝试将该模型的假设条件削弱,使其能够很好的反应金融数据,并且很多实例表明：与该模型相比,跳扩散模型、随机波动率模型在刻画股价行为方面更切合实际,因此成为现阶段人们研究的热点.本文将布朗运动引入其中,这样能够很准确的反应金融市场的波动.本文讨论了在G布朗运动环境下的障碍期权的定价研究.紧接着引入了混合G布朗运动,并给出在混合G布朗运动环境下的障碍期权的定价公式,本文的主要内容如下：第一章介绍了早期的期权定价理论,在提出经典B-S期权定价模型之后,阐述了期权定价问题的研究及发展,并且介绍了本文的框架和主要内容.第二章介绍了相关基础知识,经典的布朗运动和一些相关鞅理论,分数布朗运动,G期望,G正态分布,G布朗运动.第三章系统推导了支付交易费用的回望期权定价,通过用离散时间下的平均自融资和Delta对冲策略得出几何回望期权定价公式,结果显示Hurst指数与时间标度δt在存在交易费的情况下对期权定价起着十分重要的作用.第四章在次条件数学期望下,推导出G布朗运动环境下的障碍期权的定价公式以及两种资产和多种资产的最大值期权定价公式并拓展到混合G布朗运动环境的市场中.进而讨论了股价模型中所涉及到的几种避险参数.第五章对G布朗运动的期权定价做了总结和展望,并提出该问题在其他领域的一些应用.