多变量公钥密码体制(MPKC)是后量子时代安全的候选密码体制之一。MPKC的安全性依赖于解多变量非线性多项式方程组的困难性。论文研究了多变量公钥密码体制的各种加密和签名方案,分析了对各种方案的攻击方法,取得的研究成果如下：在MI多变量公钥密码体制方案的基础上,提出了三次MI密码体制的构造,并且给出了三次MI方案的两个变体方案,即投影三次MI减变体和三次MI内部扰动加方案。投影三次MI减变体是作为一个签名方案被提出来的,它可以抗击最近提出的对MI体制的Sflash签名方案的差分攻击；三次MI内部扰动加变体是作为一个加密方案被提出的,它可以抗击对扰动空间的差分攻击。同时这两种变体方案都可以抵抗线性化方程攻击、秩攻击、以及XL&Grobner基攻击。提出了一种新的名为多层平方醋的签名方案,它结合了逐层嵌入的思想和平方醋的思想,这两者的结合使得最终得到的多层平方醋签名方案在安全性上有所提高。该签名方案利用了奇特征域、油醋结构、多层结构以及改进的Rainbow思想。同时还讨论了这个方案可能存在的攻击,在此基础上给出了多层平方醋签名方案的一个参数实例,从而得出此实例的攻击复杂度大于280的结论。