非可加集合函数，比如外测度，早在经典测度理论的初期就已出现.经典测度理论主要研究可数可加集合函数和更一般的有限可加集合函数。Choquet于1953年最早的提出了非可加集合函数理论，即他的容度理论。这个理论无论在数学，还是科学技术的其它不同领域都产生了巨大的影响.非可加集合函数应用广泛，在经济数学，决策理论，和人工智能等不同领域被叫作不同的名字，比如合作博弈，容度，或者模糊测度.近年来，很多学者深入研究了不同类型的非可加集合函数，比如上概率，信念函数，二次交替容度，零可加集合函数，以及其它各种形式的集合函数（见[29]，[31]，[49]，[84]，[88]等）从倒向随机微分方程引出的g-概率就是其中之一.Pardoux和Peng[69]引入了一类倒向随机微分方程，并且证明了其解的存在唯一性.自此，倒向随机微分方程不仅在其自身理论方面得到了迅猛的发展（见[26]，[50]等），在金融数学和经济数学中也成为一强有力的工具（见[58]，[59]等）Peng[71]通过倒向随机微分方程引进了g-期望.在生成元g和终端值ξ满足一定的可积条件下，随机变量ξ的g-期望保持了经典数学期望除线性之外的其它一些基本性质.由g-期望自然的可以定义一类非可加概率：g-概率. 本文致力于非可加概率和倒向随机微分方程的研究.主要结果如下： 1.在上概率和二次交替容度下，分别证明了两两负相关随机变量序列的大数定律. 2.研究了g-概率的二次交替性，证明了g-概率的切比雪夫不等式，g-概率下的大数定律，介绍了g-概率下随机变量的方差，相关性和相关系数的定义及其性质. 3.给出了广义的变分公式，并且利用倒向随机微分方程的方法证明了一些结论。 本文共包括三章，下面给出每一章的主要内容. 第一章，我们研究容度下的大数定律.我们考虑了两两负相关随机变量序列，分别证明了在上概率和二次交替容度下的大数定律.对于上概率，我们自然的想到利用经典测度理论中的已有结果，得出我们的结论。对于二次交替容度，由于它对应的Choquet积分具有次可加性，通过建立非可加概率下的切比雪夫不等式和波雷尔-坎特利引理，得到了更强的结果.我们可以看到，对上概率来说，极限值在一个区间内，但是对于二次交替容度，极限值仍旧是一个数。下面给出本章的核心定理。 下面的两个定理分别给出两两负相关随机变量序列在上概率下的强、弱大数定律. 第二章，我们研究从倒向随机微分方程引入的一类非可加概率：g-概率.Pardoux和Peng[69]证明了在函数g满足假设（H1）：平方可积条件，和（H2）：Lipschitz条件下，下面的倒向随机微分方程存在唯一的适应解.如果函数g还满足假设（H3）：对任意的（y，t），g（y，0，t）=0，那么y0（ξ），记为εg[ξ]，称为ξ的g-期望.特别的对于事件A，εg[IA]，记为Pg（A），称为A的g-概率.显而易见，g-概率是一类容度.本章围绕g-概率的性质，四个方面展开我们的研究.倒向随机微分方程可以作为研究g-概率的一个有利工具，这是其它非可加概率所不及的。 首先，我们给出g-概率和二次交替容度的关系.目前对于容度的研究大多致力于二次交替容度.从以往对于g-概率和二次交替容度关系的研究，我们看到很难建立它们之间的一个等价关系。但是当g是一个奇函数的时候，可以证明，如果g-概率是二次交替的，那么它一定是线性的。 定理2.2.6假设函数g满足条件（H2）和（H3），且g是一个奇函数。那么下面的两个条件等价： （1）Pg是二次交替的。 （2）Pg是线性的。 其次，我们考虑切比雪夫不等式.切比雪夫不等式在证明各种大数定律中起到了基本的作用，是现代概率理论中一个重要的工具.我们自然的要问：在什么样的假设条件下，g-概率也满足切比雪夫不等式?在这章，我们就要解决这个问题.在函数g满足（H2）和（H3）的条件下，如果g还满数定律和P中概率下广义的大数定律的关系，从而得到了这样的结论：如果想确立g-概率下的大数定律，我们只需要研究P中概率测度下对应的大数定律. 定理2.4.16令Pg是g-概率，{Xn}n∈N是L2（Ω，F，P）中的随机变量序列.假设存在P中概率测度Q0，使得（Xn}n∈N在Q0下服从广义下的弱（强）大数定律，那么{Xn}n∈N在Pg下服从广义下的弱（强）大数定律. 定理2.4.18令Pg是g-概率，{Xn}n∈N是L2（Ω，F，P）中的随机变量序列.假设{Xn}n∈N在Pg下服从广义下的弱（强）大数定律，那么对于P中任意的概率测度Q，都有{Xn}n∈N在Q下服从广义下的弱（强）大数定律. 切比雪夫不等式在证明各种形式的大数定律中起了重要的作用.基于我们得到的g-概率下的切比雪夫不等式，下面给出由其推导出的g-概率下的一个弱大数定律. 定理2.4.23令{Xn}n∈N是L2（Ω，F，P）中的随机变量序列.假设函数g满足条件（H2），（H3），且g是正齐的。记Sn=（）如果当n→∞。时，（）那么{Xn}n∈N在g-概率下服从弱大数定律.即，对（）ε>0， 在第二章的最后，我们引入了在g-期望的框架下，随机变量的方差，相关性和相关系数，给出了它们的基本性质.我们深入研究了这些性质在g-期望这种非线性情况下和经典的线性情况下的异同. 定义2.5.13令ξ是属于L4（Ω，F，P）的随机变量.ξ在g-期望下的方差定义为 下面的定理说明了在g满足（H2）-（H4）的条件下，一个随机变量的可能取值与其它常数在g-期望下的平方距离可能会比方差小.但是，其方差或者距离-εg[-ξ的扰动比距离区间[-ξg[-ξ]，εg[ξ]之外的常数的扰动总是要小。