密码技术和安全协议是保障通信安全的核心。随着分布式计算的飞速发展及新型高性能计算技术的出现，各种密码破解方法和安全协议攻击算法不断涌现，传统密码技术和安全协议正不断面临着新的挑战，这将直接影响通信安全。因此，研究新型的密码技术已经成为业界关注的重点。用神经网络方法构建密码协议是神经网络在信息安全领域的一类全新应用课题，是非传统密码学新兴研究热点。本文首先讨论了神经网络密码学的研究现状，对该领域的相关理论基础、主流研究方向和现有应用情况进行了综述。在分析现状的基础上，重点研究和改进了基于神经网络互学习同步理论的神经密码协议，并基于此设计了一种全新的轻量级密钥协商协议。本文的主要创新点如下：1．分析和改进了现有的神经网络同步模型：神经网络互学习同步理论的核心思路为：两个结构完全对等的神经网络可以通过相互学习，达到权值同步。这一结论可以用来设计密钥协商协议。本文首先实现了现有的神经网络同步模型(TPM)，并进行了大量的仿真实验。在实验结果的基础上，指出了现有的神经网络同步模型在安全性与效率与性能方面存在的重要问题。针对这些问题，本文重新设计和实现了神经密码模型，仿真结果证明改进后的模型安全性与效率得到了有效的改进和优化。2．基于改进的神经密码模型的密钥协商协议：针对优化后的神经密码模型，本文设计了一种全新的不依赖传统代数理论的密钥协商协议。与原有相应协议相比较，该协议实现简单，效率高，耗费低。可以实现密钥协商与相互的身份认证，并可阻止与神经网络原理对应的攻击。该协议及衍生协议可以成功应用于资源有限、密钥更新频繁、速度要求高的应用场景，如嵌入式网络设备间的安全通信中，具有重要的学术价值与良好的应用前景。