本書全面介紹了圖神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)和前沿內(nèi)容,以及圖表示學習的基本概念和定義,并討論了高級圖表示學習方法的發(fā)展,旨在幫助研究人員和從業(yè)者了解圖神經(jīng)網(wǎng)絡(luò)的基本問題。此外,本書探討了圖神經(jīng)網(wǎng)絡(luò)的幾個前沿主題,包括利用圖數(shù)據(jù)描述社會科學、化學和生物學等領(lǐng)域的真實數(shù)據(jù)的關(guān)系,還介紹了圖神經(jīng)網(wǎng)絡(luò)的若干前沿趨勢,能夠幫助讀者進一步掌握圖神經(jīng)網(wǎng)絡(luò)所涉及的技術(shù)。
本書適合所有想了解圖神經(jīng)網(wǎng)絡(luò)基本問題和技術(shù)的人,包括但不限于高等院校計算機專業(yè)高年級本科生及研究生、科研人員以及相關(guān)從業(yè)者。
1. 本書全面介紹了圖神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)和前沿內(nèi)容,以及圖表示學習的基本概念和定義,并討論了高級圖表示學習方法的發(fā)展;
2. 國內(nèi)圖領(lǐng)域研究領(lǐng)域優(yōu)秀團隊核心成員共同編寫,適合所有想了解圖神經(jīng)網(wǎng)絡(luò)基本問題和技術(shù)的人,包括但不限于高等院校計算機專業(yè)高年級本科生及研究生、科研人員以及相關(guān)從業(yè)者。
3. 涵蓋圖神經(jīng)網(wǎng)絡(luò)的幾個前沿主題,例如利用圖數(shù)據(jù)描述社會科學、化學和生物學等領(lǐng)域的真實數(shù)據(jù)的關(guān)系等。
石川 北京郵電大學教授,智能通信軟件與多媒體北京市重點實驗室副主任。主要研究方向為數(shù)據(jù)挖掘、機器學習、人工智能和大數(shù)據(jù)分析。近 5 年來,以第一作者或通訊作者的身份在 CCF A 類期刊和相關(guān)會議上發(fā)表論文 60 余篇,出版中、英文專著 5 部。相關(guān)研究成果廣泛應(yīng)用于頭部 IT 企業(yè)。獲得中國電子學會科學技術(shù)科技進步獎一等獎、北京市自然科學二等獎。
王嘯 北京航空航天大學教授,博士生導師。研究方向為數(shù)據(jù)挖掘與機器學習。主持國家自然科學基金優(yōu)秀青年基金等項目,發(fā)表論文 100 余篇,3 次獲得 / 提名 CCF A/B 類等國際會議論文獎。榮獲教育部自然科學獎一等獎、中國電子學會科學技術(shù)進步獎一等獎、吳文俊人工智能優(yōu)秀青年獎和 ACM 中國新星提名獎。曾入選斯坦福大學發(fā)布的“全球前 2% 頂尖科學家”和 AMiner 評選的“AI 2000 最具影響力學者”。
楊成 北京郵電大學副教授,研究方向為數(shù)據(jù)挖掘和自然語言處理。發(fā)表相關(guān)領(lǐng)域 CCF A/B 類論文 50 余篇,相關(guān)成果獲得教育部自然科學獎一等獎。曾獲中文信息學會優(yōu)秀博士論文獎,入選 AMiner 評選的“AI 2000 最具影響力學者”和百度發(fā)布的首屆“AI 華人青年學者百強”榜單。
第 1 章 概述 1
1.1 基本概念 1
1.1.1 圖的定義和屬性 1
1.1.2 復雜圖 3
1.1.3 圖上的計算任務(wù) 5
1.2 圖神經(jīng)網(wǎng)絡(luò)的發(fā)展 6
1.2.1 圖表示學習的歷史 6
1.2.2 圖神經(jīng)網(wǎng)絡(luò)的前沿 7
1.3 本書的組織結(jié)構(gòu) 8
第 2 章 基礎(chǔ)圖神經(jīng)網(wǎng)絡(luò) 10
2.1 引言 10
2.2 圖卷積網(wǎng)絡(luò) 11
2.2.1 概述 11
2.2.2 GCN 模型 12
2.3 歸納式圖卷積網(wǎng)絡(luò) 13
2.3.1 概述 14
2.3.2 GraphSAGE 模型 14
2.4 圖注意力網(wǎng)絡(luò) 16
2.4.1 概述 17
2.4.2 GAT 模型 17
2.5 異質(zhì)圖注意力網(wǎng)絡(luò) 19
2.5.1 概述 19
2.5.2 HAN 模型 19
第 3 章 同質(zhì)圖神經(jīng)網(wǎng)絡(luò) 23
3.1 引言 23
3.2 自適應(yīng)多通道圖卷積網(wǎng)絡(luò) 24
3.2.1 概述 24
3.2.2 實驗觀察 24
3.2.3 AM-GCN 模型 25
3.2.4 實驗 30
3.3 融合高低頻信息的圖卷積網(wǎng)絡(luò) 32
3.3.1 概述 32
3.3.2 實驗觀察 32
3.3.3 FAGCN 模型 33
3.3.4 實驗 35
3.4 圖結(jié)構(gòu)估計神經(jīng)網(wǎng)絡(luò) 37
3.4.1 概述 37
3.4.2 GEM 模型 37
3.4.3 實驗 43
3.5 基于統(tǒng)一優(yōu)化框架的圖神經(jīng)網(wǎng)絡(luò) 44
3.5.1 概述 44
3.5.2 預備知識 45
3.5.3 GNN-LF/HF 模型 46
3.5.4 實驗 50
3.6 本章小結(jié) 51
3.7 擴展閱讀 51
第 4 章 異質(zhì)圖神經(jīng)網(wǎng)絡(luò) 53
4.1 引言 53
4.2 異質(zhì)圖傳播網(wǎng)絡(luò)54
4.2.1 概述 54
4.2.2 HPN 模型 55
4.2.3 實驗 58
4.3 基于距離編碼的異質(zhì)圖神經(jīng)網(wǎng)絡(luò) 60
4.3.1 概述 60
4.3.2 DHN 模型 61
4.3.3 實驗 64
4.4 基于協(xié)同對比學習的自監(jiān)督異質(zhì)圖神經(jīng)網(wǎng)絡(luò) 66
4.4.1 概述 66
4.4.2 HeCo 模型 66
4.4.3 實驗 71
4.5 本章小結(jié) 73
4.6 擴展閱讀 74
第 5 章 動態(tài)圖神經(jīng)網(wǎng)絡(luò) 75
5.1 引言 75
5.2 基于微觀禿旯鄱緣耐急硎狙� 75
5.2.1 概述 75
5.2.2 M2DNE 模型 76
5.2.3 實驗 79
5.3 基于異質(zhì)霍克斯過程的動態(tài)異質(zhì)圖表示學習 81
5.3.1 概述 81
5.3.2 HPGE 模型 82
5.3.3 實驗 85
5.4 基于動態(tài)元路徑的時序異質(zhì)圖神經(jīng)網(wǎng)絡(luò) 87
5.4.1 概述 87
5.4.2 DyMGNN 模型 88
5.4.3 實驗 91
5.5 本章小結(jié) 93
5.6 擴展閱讀 93
第 6 章 雙曲圖神經(jīng)網(wǎng)絡(luò) 94
6.1 引言 94
6.2 雙曲圖注意力網(wǎng)絡(luò) 95
6.2.1 概述 95
6.2.2 HAT 模型 95
6.2.3 實驗 99
6.3 洛倫茲圖卷積網(wǎng)絡(luò) 101
6.3.1 概述 101
6.3.2 LGCN 模型 101
6.3.3 實驗 104
6.4 雙曲異質(zhì)圖表示 106
6.4.1 概述 106
6.4.2 HHNE 模型 107
6.4.3 實驗 109
6.5 本章小結(jié) 112
6.6 擴展閱讀 112
第 7 章 圖神經(jīng)網(wǎng)絡(luò)的知識蒸餾 113
7.1 引言 113
7.2 圖神經(jīng)網(wǎng)絡(luò)的先驗知識蒸餾 114
7.2.1 概述 114
7.2.2 CPF 框架 114
7.2.3 實驗 117
7.3 溫度自適應(yīng)的圖神經(jīng)網(wǎng)絡(luò)知識蒸餾 119
7.3.1 概述 119
7.3.2 LTD 框架 120
7.3.3 實驗 123
7.4 圖神經(jīng)網(wǎng)絡(luò)的無數(shù)據(jù)對抗知識蒸餾 124
7.4.1 概述 124
7.4.2 DFAD-GNN 框架 124
7.4.3 實驗 127
7.5 本章小結(jié) 129
7.6 擴展閱讀 130
第 8 章 圖神經(jīng)網(wǎng)絡(luò)平臺和實踐 131
8.1 引言 131
8.2 基礎(chǔ)知識 132
8.2.1 深度學習平臺 132
8.2.2 圖神經(jīng)網(wǎng)絡(luò)平臺 136
8.2.3 GammaGL 平臺 139
8.3 圖神經(jīng)網(wǎng)絡(luò)在 GammaGL 上的實踐 142
8.3.1 創(chuàng)建自己的圖 142
8.3.2 創(chuàng)建消息傳遞網(wǎng)絡(luò) 144
8.3.3 高級小批量 146
8.3.4 GIN 實踐 146
8.3.5 GraphSAGE 實踐 148
8.3.6 HAN 實踐 151
8.4 本章小結(jié) 153
第 9 章 未來方向和總結(jié) 154
9.1 未來方向 154
9.1.1 自監(jiān)督學習 154
9.1.2 魯棒性 154
9.1.3 可解釋性 155
9.1.4 公平性 156
9.1.5 自然科學應(yīng)用 156
9.2 總結(jié) 157
參考文獻 159