论文部分内容阅读
注意力机制是机器学习领域的主流方法和研究热点之一,计算机视觉中的注意力机制旨在让系统能够忽略无关信息而更多的关注重点的有效信息,具有参数少、计算快、效果好的优点。本文先对注意力的原理进行探索,在此基础上对一些经典的注意力模型和当前流行的注意力模型进行详细地分析讨论,最后对注意力机制未来的发展进行了一定的展望。