人类神经系统是一个高度复杂且规模庞大的非线性动力学系统,其动力学行为与人类智能活动密切相关,所以关于神经元或神经网络模型的动力学行为研究成为人工神经网络的重要内容,而忆阻器因其独特的记忆特性、非易失性、与CMOS工艺兼容等优点,成为构造人工神经突触最理想的器件之一,其良好的非线性以及随机性成为构造非线性系统,产生丰富动力学行为的重要条件。为准确掌握人类大脑的工作机理,加快实现智能化程度更高的人工智能技术,基于忆阻器的神经网络动力学研究成为重点探索领域,但仍存在模型简单化、应用不充分以及硬件研究匮乏等问题。本文在忆阻器神经网络动力学行为研究的基础上,将神经网络与加密技术相结合,设计出多种有效的神经网络加密算法,并对其硬件实现进行了研究,具体包括以下三个方面的工作:1.提出了两种基于忆阻器的神经网络模型,并展现出丰富的动力学行为。在对经典忆阻器件模型进行分析的基础上,提出了具有负阻态的忆阻模型,并将其用于突触连接权值,构建基于负阻态忆阻器的Hopfield神经网络（Negative-resistance Memristor-based Hopfield Neural Network,NMHNN）。通过利用相位轨迹图、李雅普诺夫指数对其动力学行为进行了分析,观察到单涡卷吸引子混沌现象,证明NMHNN具有结构简单、动力学复杂等特点。其次,基于惠普忆阻器模型,将其用于神经元自反馈连接权值,构造基于忆阻器的暂态混沌神经网络（Memristor-based Transient Chaotic Neural Network,MTCNN）,与原TCNN相比具有更加丰富的动力学行为,且MTCNN在处理旅行商人问题和信道分配问题时比TCNN运行效率分别提升40%、25%。2.设计了三种忆阻神经网络加密算法,并对其安全性能进行了详细分析。针对高级加密标准（Advanced Encryption Standard,AES）、Rivest Cipher 4（RC4）等传统加密算法存在的初始密钥固定、密钥可推导、密钥空间小等问题,设计了基于MTCNN的AES、RC4加密改进算法,并与原算法进行对比分析。改进算法满足严格雪崩原则,在序列随机性、直方图均匀性上都优于原算法,并且密钥空间相比于原算法呈指数倍增长,达到10123,可以有效抵抗统计分析攻击以及暴力穷举攻击。针对传统加密算法图像加密效率不高的问题,提出基于NMHNN的图像加密算法,采用混淆-扩散结构实现图像的加解密,同时从直方图、相关性、敏感性、随机性、信息熵、密钥空间以及加密效率等方面进行了分析,其中加密效率比AES算法提升23倍,显示了其图像加密的优越性。3.针对MTCNN、NMHNN两种模型的特点,设计了神经网络加密硬件,并对结果进行了分析。首先,对MTCNN单神经元电路进行了设计与仿真,结果与前面的理论分析一致。其次,对实验室铌酸锂（Li Nb O3,LNO）单晶薄膜忆阻器进行电学特性测试,并将其测试结果作为MTCNN的自反馈连接权值,基于此提出一种S盒动态搜索生成算法,并得到在非线性度、差分均匀度上优于其他相关算法的S盒。最后,对实验室氧化铪（Hf O2）忆阻器进行电学特性测试,利用12个忆阻器件搭建3?4的神经突触结构,设计完成3神经元Hopfield网络电路,成功实现了图像的硬件加密,并在明文敏感性测试中像素数变化率和统一平均变化率的平均值分别为99.60%、33.47%,比软件算法表现更加优异。综上,本文从器件、网络、算法以及电路四个层次推进研究进程,对忆阻器神经网络及其加密技术开展了系统性的研究,为后续大规模、高性能的忆阻器神经网络加密技术及硬件研究打下了基础。