论文部分内容阅读
网络在生活和生产中无处不在，例如社交网络，而网络表示学习（也称网络嵌入）是一种对网络型数据非常有效的处理方法，其旨在为网络中的每个节点都学习一个低维的向量表示。在现实世界中许多网络都是动态的不断变化的，然而大部分现有的算法只能对静态的网络取得较好的效果。动态网络通常可以分成两类:一种是随着时间推移其拓扑图的节点和边会增加或者减少;第二类则是网络的边会包含时间信息，如电话网络。动态网络表示学习算法大多基于静态网络学习算法，常常会受到动态网络结构的复杂性、变化的多样性和信息的丰富性三大挑战。
在本文中，我们提出了循环网络嵌入(Recurrent Neural Network Embedding，RNNE)的算法来处理动态网络。RNNE主要基于神经网络模型，使用了自编码器(Autoencoder)结构和循环神经网络(Recurrent Neural Network，RNN)来适应动态网络表示学习的特点。其主要技术和创新点如下:
1.为了解决动态网络的规模可能频繁改变的问题，RNNE在网络中添加了不和其他任何节点相连的虚拟点，并且在新的节点产生时替换它们以保持网络在不同时间点规模和结构的统一。
2.为了增强节点特征的表达能力，RNNE没有直接使用网络的邻接矩阵作为特征矩阵，而是通过计算多步概率转移矩阵并进行加权求和的方式来计算每个节点的特征。
3.RNNE通过关注节点间直接相连的边和节点邻居的相似度，认为直接相连的边和相似的邻居都能带来节点间相似度的提高，以此来保持网络的局部和全局的结构特征。
4.RNNE通过传递先前时刻的嵌入状态来充分利用网络演变过程中留下的信息，然后通过维持不同时间点嵌入向量的稳定性来减少由于网络波动和噪音的影响。
5.RNNE作为一个在线网络表示学习的算法，其各个模块的功能相对独立，又互相联系，具有较好的实时性。
因此，RNNE在进行网络表示学习训练的时候兼顾了网络的静态和动态特征。
在实验部分，我们在5个数据集上测试和比较了RNNE与其他几个最新的算法，并进一步研究了RNNE超参数对实验效果的影响。结果表明了RNNE相比于这些算法在网络重构、节点分类和链路预测上有着更大的优势。
在本文中，我们提出了循环网络嵌入(Recurrent Neural Network Embedding，RNNE)的算法来处理动态网络。RNNE主要基于神经网络模型，使用了自编码器(Autoencoder)结构和循环神经网络(Recurrent Neural Network，RNN)来适应动态网络表示学习的特点。其主要技术和创新点如下:
1.为了解决动态网络的规模可能频繁改变的问题，RNNE在网络中添加了不和其他任何节点相连的虚拟点，并且在新的节点产生时替换它们以保持网络在不同时间点规模和结构的统一。
2.为了增强节点特征的表达能力，RNNE没有直接使用网络的邻接矩阵作为特征矩阵，而是通过计算多步概率转移矩阵并进行加权求和的方式来计算每个节点的特征。
3.RNNE通过关注节点间直接相连的边和节点邻居的相似度，认为直接相连的边和相似的邻居都能带来节点间相似度的提高，以此来保持网络的局部和全局的结构特征。
4.RNNE通过传递先前时刻的嵌入状态来充分利用网络演变过程中留下的信息，然后通过维持不同时间点嵌入向量的稳定性来减少由于网络波动和噪音的影响。
5.RNNE作为一个在线网络表示学习的算法，其各个模块的功能相对独立，又互相联系，具有较好的实时性。
因此，RNNE在进行网络表示学习训练的时候兼顾了网络的静态和动态特征。
在实验部分，我们在5个数据集上测试和比较了RNNE与其他几个最新的算法，并进一步研究了RNNE超参数对实验效果的影响。结果表明了RNNE相比于这些算法在网络重构、节点分类和链路预测上有着更大的优势。