1. 程式人生 > >圖卷積網路(Graph Convolutional Network)

圖卷積網路(Graph Convolutional Network)

一. 圖簡介,圖卷積網路的出現。

圖(graph)是一種資料格式,它可以用於表示社交網路、通訊網路、蛋白分子網路等,圖中的節點表示網路中的個體,連邊表示個體之間的連線關係。許多機器學習任務例如社團發現、鏈路預測等都需要用到圖結構資料,因此圖卷積神經網路的出現為這些問題的解決提供了新的思路。下圖就是一個簡單的圖結構資料:

二. 圖卷積網路的卷積方式

圖上的卷積網路從卷積方式上可以分為兩種:1.譜(spectral)卷積,2.空間域卷積。Thomas Kpif的這篇論文就是屬於譜卷積,即將卷積網路的濾波器與圖訊號同時搬移到傅立葉域以後進行處理。而Mathias Niepert的論文Learning Convolutional Neural Networks for Graphs

中的圖卷積網路就屬於空間域的卷積,即讓圖中的節點在空間域中相連、達成層級結構,進而進行卷積。其簡單介紹可參見雷鋒網文章 卷積神經網路不能處理“圖”結構資料?這篇文章告訴你答案

三.圖卷積網路的理論推導

四.附言

近些年關於非歐幾里德域的資料(圖就屬於非歐資料)如何處理的文章一大堆,現如今有幾個概念很火:圖嵌入(graph embedding)、網路嵌入(network embedding)、網路表示學習(network representation learning),這三個概念從原理上來說其實表達的是同一件事,核心思想就是“通過深度學習技術將圖中的節點(或邊)對映為向量空間中的點,進而可以對向量空間中的點進行聚類、分類等處理”。圖卷積神經網路就屬於圖嵌入技術的一種,感興趣的可以對圖嵌入領域進行深入瞭解,你會發現寶藏不斷:

NE(Network Embedding)論文小覽

本文為原創內容,歡迎轉載、分享,請務必註明出處。

相關推薦

網路Graph Convolutional Network

一. 圖簡介,圖卷積網路的出現。 圖(graph)是一種資料格式,它可以用於表示社交網路、通訊網路、蛋白分子網路等,圖中的節點表示網路中的個體,連邊表示個體之間的連線關係。許多機器學習任務例如社團發現、鏈路預測等都需要用到圖結構資料,因此圖卷積神經網路的出現為這些問題的解決

樣例 graph convolution network

來源:如何用圖卷積網路在圖上做深度學習 Graph Neural Network Review 傅立葉分析之掐死教程(完整版)更新於2014.06.06 如何理解 Graph Convolutional Network(GCN)? graph convolution network有

【GCN】網路初探——基於Graph的傅立葉變換和

本文為從CNN到GCN的聯絡與區別——GCN從入門到精(fang)通(qi)的閱讀筆記,文中絕大部分公式和圖片摘自原文。 文章目錄 一、CNN(卷積神經網路)中的離散卷積 二、GCN基本概念介紹 (一)圖Grap

論文解讀|【Densenet】密集連線的網路附Pytorch程式碼講解

@[t oc] 1 簡單介紹 論文題目:Densely Connected Convolutional Networks 發表機構:康奈爾大學,清華大學,Facebook AI 發表時間:2018年1月 論文程式碼:https://github.com/Wang

【GCN】網路的半監督學習脈絡

1、入門: 知乎回答:從CNN到GCN的聯絡與區別——GCN從入門到精(fang)通(qi) 2、論文閱讀: 論文地址:SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS 論文翻譯1:圖卷積神經網路的半監督

轉:全網路FCN與影象分割

學習收藏。 從影象分類到影象分割 卷積神經網路(CNN)自2012年以來,在影象分類和影象檢測等方面取得了巨大的成就和廣泛的應用。 CNN的強大之處在於它的多層結構能自動學習特徵,並且可以學習到多個層次的特徵:較淺的卷積層感知域較小,學習到一些區域性區域的特徵;較深

從多層感知器到網路

上一篇中,我們講解了什麼是MLP以及如何訓練得到一個MLP,讀者大概對神經網路有一定的印象了。我們總說,好戲在後頭,接下來這一大塊頭,我們將重點介紹卷積網路。 何謂卷積 單憑卷積這一個稱號大概可以嚇死一半的普通老百姓了。一開始接觸卷積網路的時候,我就差點

FCNFully Convolutional Network與Unet:談到語義分割不得不提的兩個網路

語義分割經典之作:FCN(Fully Convolutional Network) 參考論文:Fully Convolutional Networks for Semantic Segmentation. Jonathan Long ,Evan Shelhamer ,T

最全面的網路GCN的理解和詳細推導,都在這裡了!

[toc] ## 1. 為什麼會出現圖卷積神經網路? 普通卷積神經網路研究的物件是具備Euclidean domains的資料,Euclidean domains data資料最顯著的特徵是他們**具有規則的空間結構**,如圖片是規則的正方形,語音是規則的一維序列等,這些特徵都可以用一維或二維的矩陣來表示,

深度學習--深度信念網路Deep Belief Network

本篇非常簡要地介紹了深度信念網路的基本概念。文章先簡要介紹了深度信念網路(包括其應用例項)。接著分別講述了:(1) 其基本組成結構——受限玻爾茲曼機的的基本情況,以及,(2) 這個基本結構如何組成深度信念網路。 本文僅僅能使讀者瞭解深度信念網路這一概念,內容非常淺顯,甚至有許多不嚴密

學習筆記之——基於pytorch的殘差網路deep residual network

本博文為本人學習pytorch系列之——residual network。 前面的博文( 學習筆記之——基於深度學習的分類網路)也已經介紹過ResNet了。ResNet是2015年的ImageNet競賽的冠軍,由微軟研究院提出,通過引入residual block能夠成功地訓練高達

深度可分離結構depthwise separable convolution計算複雜度分析

這個例子說明了什麼叫做空間可分離卷積,這種方法並不應用在深度學習中,只是用來幫你理解這種結構。 在神經網路中,我們通常會使用深度可分離卷積結構(depthwise separable convolution)。 這種方法在保持通道分離的前提下,接上一個深度卷積結構,即

RBM受限玻爾茲曼機和深層信念網路Deep Brief Network

 目錄: 一、RBM 二、Deep Brief Network 三、Deep Autoencoder   一、RBM 1、定義【無監督學習】 RBM記住三個要訣:1)兩層結構圖,可視層和隱藏層;【沒輸出層】2)層內無連線,層間全連線;3)二值狀態值,

ABCnet——高精度二值化網路Binary Neural Network

"Towards Accurate Binary Convolutional Neural Network"這篇文章提出了ABCnet,是一種表示精度較高的二值化網路結構(作為XNORnet的演進)。有關XNORnet及其優勢可以參考論文:"XNORNet: ImageNet

深度神經網路Deep Neural Network

dZ[l]=dA[l]∗g[l]′(Z[l])dW[l]=1mdZ[l]⋅A[l−1]db[l]=1mnp.sum(dZ[l],axis=1,keepdims=True)dA[l−1]=W[l]T⋅dZ[l]

邏輯、集合運算上的一覽FMT、FWT,……

\oplus=\and,\or,\veebar 簡介 對於邏輯\(\oplus\)的卷積,而且你不能N方豹草 \[ A_k=\sum_{i\oplus j=k} B_i\times C_k\\ \] 那麼嘗試構造變換\(F_{\oplus}\)和反演\(F_{\oplus}^{-1}\)使滿足 \[ F_{\

Convolution Network及其變種、擴展卷、因果

connected lte 理論 圖像處理 val 場景 了解 tput 實驗 今天,主要和大家分享一下最近研究的卷積網絡和它的一些變種。 首先,介紹一下基礎的卷積網絡。 通過PPT上的這個經典的動態圖片可以很好的理解卷積的過程。圖中藍色的大矩陣是我們的輸入,黃色的小

DeepLearning.ai作業:(4-2)-- 深度網路例項探究Deep convolutional models:case studies

title: ‘DeepLearning.ai作業:(4-2)-- 深度卷積網路例項探究(Deep convolutional models:case studies)’ id: dl-ai-4-2h tags: dl.ai homework categories:

DeepLearning.ai筆記:(4-2)-- 深度網路例項探究Deep convolutional models:case studies

title: ‘DeepLearning.ai筆記:(4-2)-- 深度卷積網路例項探究(Deep convolutional models:case studies)’ id: dl-ai-4-2 tags: dl.ai categories: AI Deep

(Graph)到(Graph Convolution):漫談神經網路模型 (一)

本文屬於圖神經網路的系列文章,文章目錄如下: 從圖(Graph)到圖卷積(Graph Convolution):漫談圖神經網路模型 (一) 從圖(Graph)到圖卷積(Graph Convolution):漫談圖神經網路模型 (二) 從圖(Graph)到圖卷積(Graph Convolution):漫談圖神