在1984年由S.Goldwasser和S.Macali提出GM概率公钥密码体制之前,所有的公钥密码体制都因为它们的确定性而有着各种各样的缺陷。因为一般的公钥密码体制的加密变换都是利用单向陷门函数f(x),但并不能排除由f(x)计算出部分信息的可能性。而概率公钥密码体制采用逐比特位加密的方法对明文进行加密,因而较好地克服了确定性公钥密码体制的本质缺陷。但是,概率密码体制也不是完美的,众多研究已发现该体制因其膨胀率大太,不能被数字签名及可能被内部主动攻击等问题。基于以上背景,本文对概率密码做了一些研究。其内容是这样安排的：第一部分介绍了密码技术的发展,密码体制的构成及数字签名理论。并介绍了概率公钥密码体制产生的背景及意义,几种常见的概率公钥密码体制及其数学基础。第二部分利用陷门函数的单向性,构造了一个安全高效的基于RSA的概率公钥密码体制,改进后的算法保有了原算法的安全性,并降低了密文膨胀率。另外在此算法上构造了数字签名方案,对新算法及数字签名方案的安全性给出了分析。第三部分对1999年Paillier-Pointcheval提出的概率公钥密码体制进行研究,并在不降低其安全性的情况下,利用复合次剩余类的性质对它中的一个单向陷门置换进行改进,通过对比可以发现它的加解密效率都得到了提高。利用改进后的算法构造了数字签名方案。并且还证明了它们的安全性都是等价于RSA[n,n]难解性的。第四部分对一种形如Xn=sin2(θπzn)的算法进行分析,针对其存在的问题,提出了一个新的混沌映射,改变原算法中的初始迭代方程,可有效抵抗利用连分数方法的攻击,改变迭代方程中的另一个式子,改善其统计特性,并用Golomb随机公设对它输出的随机序列进行测试。最后给出了概率密码体制的研究结论及前景展望。