混沌是指在非线性动力系统中出现的确定性、类似随机的过程,这种过程既非周期又非收敛,并且对初值具有极其敏感的依赖性,混沌系统所具有的这些基本特性恰好能够满足保密通信及密码学的基本要求。本文研究了基于混沌理论的图像加密算法。本文较为详细的介绍了密码学及混沌理论的基础知识,包括密码系统模型、密码系统的基本要求,安全性密码模型、常见的密码攻击方法、混沌加密的特性、混沌加密图像的常用方法、常见的混沌系统等。针对低维混沌系统虽然具有形式简单,产生混沌序列所需时间短等优点,但密钥空间小,序列的复杂度不高。利用猫映射及Lorenz高维混沌系统的结构复杂、多输出、密钥空间大等优点,提出一种基于猫映射与Lorenz混沌系统相结合的图像加密算法。针对猫映射会产生一个不动点(0,0),而且在替代加密中密钥流仅仅依赖于混沌系统的初值而与明文无关,这样容易被攻击者利用,所以本文提出一种基于复合混沌系统的图像加密新算法,该算法中复合混沌系统保持了所有子系统的混沌特性,比单个子系统的动力学行为更加复杂,实验结果也表明该算法具有良好的密码学特性。针对Liu混沌系统生成的序列复杂性及随机性均不太理想,为了提高混沌序列的复杂性和伪随机性,首先,对Liu混沌系统生成的混沌序列进行了改进,使改进后的序列具有理想的伪随机特性；然后,利用改进的Liu系统混沌序列对图像进行加密,提出了置乱与替代相结合的加密算法。实验表明该算法具有较强的抵御穷举攻击、统计攻击、已知明文攻击能力,因此,算法具有较高的安全性。