近年来随着大数据应用的普及和计算机硬件的进步,神经网络算法得到了快速的发展。目前,神经网络在语音识别、计算机视觉、智能控制等领域有着广泛的应用。神经网络算法是一种有并行特性的计算密集型的算法,面向该类算法的高效率计算架构和硬件一直是计算机领域的研究重点。粗粒度可重构阵列架构有多个可以重构的处理单元,计算数据宽度在字节以上,通过重构硬件逻辑和改变数据访问方式可以高效的进行有并行特性的计算密集型算法,非常契合神经网络的计算特点。本文中深入研究了粗粒度可重构阵列体系结构的原理和神经网络算法的基本原理。在参与项目中现有的可重构阵列AI处理器基础上进行研究与设计优化,同时基于FrontPanel开发套件设计了可重构阵列处理器模块与主机的硬件通信接口和PC端的控制程序,搭建了完整的神经网络推理计算的主机-FPGA系统。硬件设计部分在Modelsim下完成仿真,在ISE下进行FPGA开发过程,以Kintex7k70t型号FPGA器件实现达到50Mhz运行频率和371mW的功耗指标。本文详细研究了神经网络的量化原理,并实际分析了多种网络模型参数与中间计算结果的数据分布特点。为了在硬件中以低精度参数进行神经网络计算,本文根据网络参数层间分布范围的变化将参数线性量化为动态定点的8bit整型数字,相应的,本文对可重构AI处理器的单个处理单元进行重新设计并增加了动态定点数的计算逻辑,特别的对于计算过程中数据位宽变化和溢出等难点问题,在原处理器设计基础上增加了截断指令和调试标志。实验阶段,设计和训练了MNIST分类网络模型并对模型参数进行分析和量化处理,最终通过主机-FPGA通信接口以软硬件协同调试的方式,成功的在FPGA中完成了MNIST分类网络的推理计算,达到了97.12%分类正确率,与软件中的分类正确率97.96%水平相当。本文中研究设计的轻量级的可重构阵列AI处理器,相比于CPU和GPU,能够以较低的成本和较低的功耗实现神经网络的快速推理计算,对于神经网络算法在计算资源受限场景下的推广应用有很好的意义。本文采用的网络参数量化方法和相关逻辑设计与调试方法对相关研究也有着较好的借鉴意义。