彭(2006)引入了G正态分布,G期望和G布朗运动,构造了关于G布朗运动的Ito积分,并得到了G-Ito公式,G-SDE和G-BSDE的存在唯一性。如同正态分布在经典概率论中的地位,G正态分布同样在非线性数学期望中起着重要的作用。同g期望比较,G期望理论内在的不是基于给定的(线性)概率空间。G期望是完全的非线性期望。它描绘了方差不确定性的随机变量。Chen-Epstcin通过g期望研究了均值不确定性的随机变量问题。在G期望下,彭介绍了很多有趣的方法,并得到了很多有趣的结论。更重要的是,仍有很多有趣的问题有待继续研究。关于最近的关于G期望的结果可见Dcnis-Hu-Peng(2008),Hu-Peng(2009),Bai-Buckdahn(2009), Xu-Zhang(2009),Gao(2009),Li-Pcng(2009),Soner-Touzi-Zhang(2010), Song(2010)等等。这篇论文仍然对G期望及其相关问题进行研究。首先我们回顾彭(2009)中提到的G布朗运动(Bt)t≥0的二次变差过程((B)t)t>0可以描述方差不确定性的问题：对任意φ∈Gl,lip(Rd×d),v(t,x)=E[φ(x+<B>t)]是以下PDE的粘性解其中θ为方差不确定性的G布朗运动的集合。另一方面,作为G正态分布的拓展情况,一般情形的G分布由彭(2009)介绍引入。一般情形的G正态分布同时描述了均值不确定性的情况。那一个必要且有趣的问题是如何找到一个过程可以同时表征均值不确定性和方差不确定性。第一章解决了这个问题并得到结果：定理1.3.1定义v为以下一阶PDE的解：其中Dxu=((?)xijv)i,j=1d,DyV=((?)yiV,)i=1d我们同样有其次,众所周知,纽曼皮尔森引理提供了关于简单假设检验问题的重要结论。但是,据我们所知,关于非线性概率的情况,只有Huber、Strassen研究了2-altcrnating容度的情形和S.Ji、X.Zhou研究了g期望下的情形。Ncyman和Egon Pcarson与1933年引入了纽曼皮尔森引理。对于关于非零原假设θ=θ0和备择假设θ=θ1的某类假设检验,此引理给出了重要的检验水平,最大限度的提高了检验的功效。Hubcr和Strassen提出,如果复合假设可以被描述为2-alternating的容度,则最大最小检验就为一组固定的简单假设。在一定条件下这也是一个必要条件。然后S.Ji和X.Zhou的文章研究了g概率下的纽曼皮尔森引理。通过随机原则方法,在凸假设的前提下,得到了表征最优随机检验的充分必要条件。而g期望可以看作是特殊情形的一般G期望。我们就研究一般G期望情形的简单假设,得到以下结果：定理1.4.5存在一个随机检验可以达到以下模型的最低值：我们同样证明了在一般G期望情形下,这个随机验证并不是唯一的.在第二章中,我们主要讨论了下面一类特殊随机过程的G-鞅表示定理,这里b(X.t,x),h(X.t,x)∈MG1([t,T]),σ(X.t,x)∈MG2([t,T]),我们假设上述方程存在解,用Xst,x∈MG1[t,T]表示.这时,我们可以得到以下的定理：定理2.2.5Xst,x是一个G-鞅,当且仅当b(χ)=-2G[h(χ)]大偏差原理,处理不同于中心极限定理的一类极限问题,是概率论极限理论的一个重要分支。其精确描述了大数定理,并在数学统计、分析及物理领域有着重要的应用。大偏差理论是由Khintchinc (1929) Cramer (1938)和Chernoff (1952)引入。一些重大事件只有很小的概率发生,但是一旦发生了则产生深远的影响。大偏差理论就提供了一个重要的方法具体量化重要事件的概率。因此对于这方面的研究是必要的。而随着现代科学的发展,非线性概率和期望由Choquct (1953) Peng (1997)等引入,并在金融学、市场理论里被广泛运用。同样基于非线性概率的期望的大偏差原理也是非线性概率的一个重要分支。本文第三章则引入了基于容度的大偏差原理：定理3.2.5若一列随机变量{Xi}in=1关于容度v,V都是独立同分布的。令则存在IV(A)和Lv(A),使得在第四部分,我们对次线性期望下的极限定理进行了研究。首先,我们给出了弱独立的定义,将彭(2008)中独立的定义进行了弱化：定义4.1.1弱独立性：Y1,Y2,…,Yn为一列随机变量,且Yi∈H。我们称随机变量Yn在E下关于X：=(Y1,…,Yn-1)弱独立。若满足：对任意Rn上的可测函数φ0,φ1,ψ1,φ0(X),φ1(X),ψ1(Y)∈H,我们有在此弱独立条件下,得到非线性期望的中心极限定理：定理4.1.6令随机变量列{Xi}i=1∞是同分布的。假定对于n=1,2...,每个Xn+1与(X1,X2,…,Xn)弱独立,且我们假定则{Xi}i=1∞依分布收敛于G-正态分布：其中ξ在E下为G-正态分布。并得到弱独立条件下的重对数律,推广了经典情形下的重对数律：定理4.1.7令{Xn}n=1∞为一列非线性期望E下的弱独立同分布的有界随机变量列,且均值为0,方差有界：(A.1)E[X1]=ε[X1]=0,(A.2)E[X12]=σ2,ε[X12]=σ2,其中0<σ≤σ<∞.记Sn=(?)Xi。则(Ⅰ)(Ⅱ)(Ⅲ)假定C({xn})为R中序列{xn}的聚值集,则其次,我们推广了彭实戈院士(2008)年给出的次线性期望下大数定律,将矩条件减弱为一致可积条件,得到了相应的大数定律：定理4.2.4设(Ω,H,E)为次线性期望空间,{Xi：i=1,2,...}(?)H满足对任给的i≥1,Xi+1与X1同分布且独立于(X1,X2,...,Xi)。另外我们假设X1满足条件E[[x1]]<∞和则对任给的φ∈Cb.Lip(R)有其中μ=E[x1]≥-E[-X1]=μ特别的我们考虑了不确定条件下金融市场中的定价问题,主要考虑陈增敬教授(2005)年提出的最大定价和最小定价,我们把次线性期望下大数定律应用于此问题中,得到了一些关于最大定价极限性质的有趣结论：定理4.2.6令Xi=Wi-Wi-1,i≥1,则在最大期望下,对任给的φ∈Cb.Lip(R),我们有同时也得到了关于最大容度极限性质的一个有趣结论,特别其关于维纳测度不再绝对连续：推论4.2.8令Xi=Wi-Wi-1,i≥1,则(1)对任给的-k≤α<b≤κ,我们有(2)对任给的c∈[-κ,κ],我们有在论文最后部分,我们简单介绍了一数学模型在实际中的应用。这一部分内容是作者在金融机构实习期间工作的一部分。