随着深度学习理论研究的不断深入和应用技术的不断推广,传统的卷积神经网络在语音识别、图像处理、自然语言处理等领域已经取得了巨大的成功。然而,卷积神经网络越来越大的计算规模和越来越复杂的模型结构已成为其在移动端和嵌入式端部署的瓶颈。最近的研究结果表明,经过量化后的卷积神经网络可大量减小参数规模和计算成本。在保证一定准确度的情况下,网络模型的训练过程权重和隐藏层激活二值量化为+1或者-1,量化的权重和激活值用于计算参数梯度,这样的量化操作使得内存消耗理论上减少为全精度模型的1/32。更重要地,Xnor逻辑运算和popcount位移运算可以替换原来的卷积运算,这样更是极大的减少了运算时耗。结合FPGA可编程、可重构以及低功耗的特点和二值量化的训练方法,通过Vivado HLS高级综合工具在Xilinx PYNQ-Z1轻量级开发板上对基于VGG16改进的网络进行了加速实现。从卷积层、池化层、正则归一化层、全连接层进行了相应的优化,并设计了一个矩阵向量乘法单元,通过控制调整其中的PE数量和SIMD通道数能够使模型达到局部性能最优,并最终获得整体最优性能。通过优化获得了相较于前人更高的数据吞吐量、更快的处理速度和更低的功耗。同时提供几种不同量化组合的性能对比,结果表明,量化精度越高,识别准确率越高,但是模型所需内存就越大,推理速度越慢。最后,利用本文的加速方案和量化思路实现了一个基于Squeezenet改进的目标检测网络,并获得了85.7%的准确率、31.8FPS以及2.4W的功耗。后期可根据本文方案在不同FPGA上甚至ARM端和移动GPU端部署结构更加复杂的网络模型。