由于RSA、椭圆曲线、超椭圆曲线公钥密码体制越来越广泛的应用,对于它们的研究也越来越重要。有限域上椭圆曲线的算术理论,是（超）椭圆曲线公钥密码体制的基础,其中许多算术问题的研究对于各类公钥密码体制的应用具有至关重要的作用。本文主要是对其中的两个基本问题的研究。超椭圆曲线密码体制中最核心的问题是计算选取的超椭圆曲线的Jacobian的阶和找到Jacobian具有给定阶的超椭圆曲线。对于给定的整数n,我们经常需要知道是否存在Jacobian群阶为n的曲线,以便进一步构造这样的曲线。由于Jacobian的群阶即为该曲线Zeta函数的分子L多项式在1时的取值,有必要通过计算曲线的Zeta函数来研究这一问题。在本文第二章,我们利用曲线的覆盖和分歧理论,得出了亏格为3的曲线的Jacobian与三条椭圆曲线的积同种的限定条件。根据这一条件,我们可以更快速地计算出部分曲线的Zeta函数,进而求得曲线的有理点个数和Jacobian的群阶,从而部分回答前述问题。根据计算结果,我们还首先发现在F₄₉上存在极大曲线。在RSA密码体制中,首先需要找到一个大的素数,通常的办法是随机选取一个大数n来测试其素性,因此高效的素性测试算法非常重要。椭圆曲线与素性测试有着密切的关系,比如ECPP算法和Goldwasser-Kilian算法都是利用了椭圆曲线的算术性质。超奇异椭圆曲线是一类特殊的椭圆曲线,它的一个算术性质可以用来刻画素数。本文第三章基于Goldwasser-Kilian算法在环Z_n上研究（普通）椭圆曲线的想法,在环Z_n上定义超奇异椭圆曲线,利用它的这一算术性质来测试n的素性。进一步,我们综合椭圆曲线的复乘理论,提出了一种新的多项式时间的概率型算法。对于n≡3（mod 4）和n≡1（mod 3）的整数n,该算法的时间复杂度为O（lg⁸n）;如果假设广义黎曼猜想成立,它对于别的整数也具有相同的时间复杂度。