目前，超混沌系统因其具有更广泛的密钥空间，在图像加密技术领域中得到了广泛地研究。随着计算机网络技术的迅猛发展，大量的数字图像信息正在通过网络进行传递，如何确保图像的保密性与安全性也越来越多的引起了人们的重视。与普通的文本信息相比，数字图像信息存储的格式通常为二维矩阵，并且占用空间较大。作为一种具有特殊性质的非线性系统，混沌因为具有不可预测的运动轨迹、以及具有复杂性、伪随机性和初始条件敏感性等特点，使得其在对数字的图像进行加密时占据了得天独厚的优势。对于超混沌系统来说，因其具有更好的不可预测性、更复杂的动力学行为以及更大的密钥空间，使得在对数字图像进行加密时，应用混沌序列作为密钥这一技术具有更大的优势和更广的研究空间。本文将针对超混沌系统进行研究工作，主要包括对其本身的理论进行研究以及其对数字图像进行加密这两方面。相关工作如下：在超混沌系统的理论研究方面，提出一个新的系统模型。通过Lyapunov指数法，证明建立的这个新的系统是超混沌系统。对系统的一些特性，例如稳定性、耗散性、平衡点以及系统吸引子的存在性进行分析。为得到超混沌吸引子相图，应用MATLAB软件采用定步长ode23算法进行仿真实现。根据Lyapunov稳定性定理，针对本文系统的稳定性设计一个新的控制器，并对系统的稳定性进行分析研究，证明所设计控制器的合理性。在超混沌系统对图像加密的研究方面，对图像加密技术进行理论分析，根据本文建立的系统模型，对数字图像进行加密与解密的设计，应用其产生的序列通过像素置乱和像素替代这两个方法。分析研究本文提出的加密算法，证明加密算法有效、可靠。对于所设计的加密算法进行分析，其中包括密钥敏感性分析、直方图分析、图像相邻像素相关性分析、抗干扰能力分析及安全性能分析，证明加密算法的可靠性。