操盘手主力版-怎么升级win10
![csdn积分](/uploads/image/0173.jpg)
2023年4月3日发(作者:pdg是什么格式)
函数图卷积神经⽹络_图卷积神经⽹络(GCN)
起源
出现原因
神经⽹络在各种传统任务上都体现出了惊⼈的效果,如:CNN系列在图像领域的结果、RNN系列在序列数据上表现出的效果。⽽使⽤较为
⼴泛的图数据却很少有相应的模型供我们直接使⽤。
为什么⽕的是图卷积神经⽹络,⽽不是图循环神经⽹络
卷积神经⽹络实质上是从⼀个⼩范围的节点/像素特征中通过卷积核学习提取到深层次空间特征,进⽽得到最终结果的过程(稀疏交互、参
数共享、平移不变性),这个思想移植到图中是有可能的(但由于图数据是不规则的,平移不变性不适⽤于图数据)。循环神经⽹络实质是
学习序列数据的演变情况,但是对图中节点进⾏排序是很困难的,没有统⼀的标准,所以不⼤适⽤。
传统卷积神经⽹络为什么不能直接⽤于图数据
传统卷积神经⽹络中的卷积操作如下图所⽰,右图3*3卷积核对应着左图黄⾊区域的9个像素点,⽽这9个像素点实质上是有序的,即可以从
左上到右下对这9个像素点编号为1-9,对应着卷积核的9个参数。但是在图数据中,学习⼀个节点的深层特征势必是通过其邻居节点,⽽邻
居节点的数量并不能像图像数据⼀样是固定的。此外,即使邻居节点的数据固定,假设为9,也⽆法像下图⼀样,对9个邻居节点排序对应9
个卷积核中的参数。
左图是图像像素矩阵,右图是卷积核
图卷积神经⽹络分类
图卷积神经⽹络分为基于空间域的图卷积神经⽹络和基于谱域的图卷积神经⽹络。前者貌似还没有开源,可能是效果不太理想,这⾥就不做
介绍,主要介绍基于谱域的图卷积神经⽹络。
2.傅⾥叶变换与谱图理论
从传统的傅⾥叶变换到图数据的傅⾥叶变换
这⾥不对傅⾥叶变换的细节和各种公式推导做详解,只对其思想做简单的描述。傅⾥叶变换的经典解释就是将时间⽅向变化的时域信号,转
换为频率⽅向变化的频域信号,如下图所⽰。
这⾥的时域信号和频域信号实质上是指同⼀种信号在不同维度下的表现形式。可以简单理解为对于同⼀个西⽠,你既可以从它好不好吃的⾓
度看,也可以从它的⾊泽根蒂纹路来看。只不过在时域和频域这两个观察⾓度中,⽇常⼤多数都是从时域的⾓度,随着时间的推移来观察,
所以更加熟悉(类似于⽠好不好吃)。对于频域的⾓度,指的是任意⼀个周期函数都可以通过若⼲个cos,sin正交基底线性组合表⽰,如下
图所⽰。频域的⾓度是⼀种更加底层更加基础的观察⾓度(类似于⽠的颜⾊纹路),⽐如,你可以直勾勾的观察⼀个⽴⽅体,也可以从长度
⾼三个指标来观察⽴⽅体。
傅⾥叶变换公式如下图。其中
为基底,与sin、cos函数有关(详见欧拉公式),积分符号等同于离散时的线性组合。
的傅⾥叶变换
就是将
映射到以
为基底的空间中。
傅⾥叶变换和傅⾥叶逆变换:
类⽐传统的傅⾥叶变换,对于图数据的傅⾥叶变换,就可以先使⽤矩阵将图数据表⽰出来,之后同在信号函数中找cos,sin基底函数同理,
也找出⼏个正交基底来表⽰图数据,即矩阵的特征分解。
其中,
表⽰节点中第
个特征,
表⽰矩阵特征分解得到的第
个特征向量的第
个分量。推⼴到矩阵形式如下图。
图卷积神经⽹络为什么要⽤拉普拉斯矩阵
拉普拉斯矩阵定义为:
,其中D为对⾓度矩阵,A为邻接矩阵。
将其标准化:
标准化后的邻接矩阵:
,其中:
节点i、j间有边时,
节点i、j间没有边时,
设
表⽰节点向量,每个节点的初始特征为
,横向⽐较邻接矩阵和拉普拉斯矩阵。对于第
个节点:
由上公式可知,邻接矩阵描述的是节点
的⼀阶邻居聚合的更新值,⽽拉普拉斯矩阵描述的是节点
的变化量。⽤⼀组特征向量u来表达向量v:
则上式可以表⽰为:
L的特征值描述了变化量的强度,其对应的特征向量表⽰对节点影响最⼤的向量。在以拉普拉斯矩阵的特征向量为基底的空间中,各个维度
都代表着变化量,在这种空间中进⾏卷积操作改变图节点特征,⾃然会更加精确。
3.图卷积神经⽹络推导
由上,图的矩阵形式的傅⾥叶变换为:
傅⾥叶变换及其逆变换简可写为,其中,
表⽰像函数(傅⾥叶变换后的结果),
表⽰
的像原函数(原函数):
图卷积操作实质上就是将图上函数f与卷积核g分别进⾏傅⾥叶变换,在频域完成卷积操作,再通过傅⾥叶逆变换得到最终结果,如下图所
⽰:
将卷积核表⽰为
并将其表⽰为对⾓矩阵形式,则公式变为:
图结构较⼤时,这种卷积⽅式在计算过于复杂,所以引⼊了切⽐雪夫多项式来拟合卷积核,从⽽降低计算复杂度,如下图所⽰:
其中
,现在假设
,并且
,可得:
假设这两个参数
是共享的,可得:
再对其进⾏近似变换:
其中,
,
,最终可得到卷积公式:
参考:
图卷积⽹络GCNGraphConvolutionalNetwork(谱域GCN)的理解和详细推导-持续更新
⼩杰:谱图理论(spectralgraphtheory)
/tkipf/
更多推荐
csdn积分
发布评论