目前基于混沌的研究已经引起了人们越来越多的关注,实际生活中的很多方面也迫切的需要运用混沌系统独特的性质。借助各类忆阻器模型对现有的混沌系统进行改进,可以构建出动力学行为更加复杂的混沌系统。混沌系统的类随机性和不可预测性与密码学有着不可分割的联系,基于混沌序列的图像加密算法具有更高的安全性。首先通过分析混沌的定义和基本的特征,得出了判定混沌的方法,且描述了基于混沌系统的数字图像加密算法的可行性和优越性。本文在实验仿真和数值分析的方法上,提出了一个新的基于忆阻器的超混沌系统和一个多涡卷混沌系统。此外,对两个系统分别进行了基本的数值仿真和理论分析。同时,设计了新的数字图像加密算法,具体工作内容如下:（1）基于磁控忆阻器设计了一个新的超混沌系统,此系统结构简单,易于实现且呈现出复杂的动力学行为。随后通过系统的平衡点、Poincare映射、Lyapunov指数等结果分析了该系统的混沌特性。此外,通过SPICE仿真软件实现了该系统的电路。SPICE仿真和数值分析的一致性证明了该系统的可行性。最后,设计了一个包含两次加密的图像加密算法。经典的三维Lorenz系统用于第一次加密,而超混沌系统用于第二次加密,并利用Matlab仿真软件对加密算法的性能进行了数值分析。（2）基于正弦函数非线性项设计了一个新的三维混沌系统,在不同的初始条件下该系统可以产生不同涡卷的吸引子。借助系统的功率谱、Lyapunov指数等数值模拟的结果,证明了该多涡卷混沌系统具备产生混沌的能力。此外,迭代该系统产生的随机序列可以通过FIPS 140-2随机数测试的全部项目。最后,设计了一个彩色图像加密算法。该方案主要包含了置乱和扩散这两个步骤,且可以对不同尺寸的彩色图像实现加密。采用直方图分析、相关性分析等统计学的方法,验证了该加密算法的安全性。将动力学特性丰富的混沌系统应用到数字图像加密算法中,在信息安全领域具有很大的研究价值。