本書系統介紹了面向人工智能領域中的數據安全、隱私保護技術和工程實踐。本書首先探討了人工智能領域所面臨的各種數據安全和隱私保護的問題及其核心需求，并在此基礎上縱覽和比較了各種隱私保護計算技術和解決方案的利弊；然后詳細闡述了目前比較具有工程實踐優勢的可信執行環境技術，及其在主流人工智能場景中的工程實踐參考案例。此外，本書介紹了關于數據安全和隱私保護的概念、原理、框架及產品，從而幫助讀者對機密計算的技術全景有整體的理解。
胡寅瑋英特爾數據平臺事業部中國云計算平臺工程部總監。負責為中國及亞太區的云服務商提供云服務器和數據平臺的全棧式技術方案，包括CPU定制、服務器平臺設計開發、云固件研發、軟件性能優化、計算安全及集群陣列調優。閆守孟螞蟻集團研究員，螞蟻可信基礎設施負責人。領導了螞蟻集團SOFAEnclave（Occlum、HyperEnclave、KubeTEE等）機密計算軟件棧、隱私計算加速硬件和可信隱私計算一體機的研發，發起并主導制定了國內外多項可信執行環境和隱私計算一體機標準。有關技術產品已在螞蟻、阿里巴巴、微軟Azure及諸多隱私計算企業得到廣泛應用，產生了重要的社會和經濟價值。加入螞蟻之前，在Intel中國研究院從事基礎技術研究，多項研究成果應用在Intel軟硬件產品中。曾在PLDI、ASPLOS、ATC、ASE等發表多篇頂級會議論文，并擁有30余件專利。在西北工業大學獲得計算機應用技術專業博士學位。吳 源英特爾數據平臺事業部資深AI與安全軟件工程師。主要負責基于英特爾可信執行環境的人工智能應用和隱私計算。工作重點主要包括聯邦學習、深度學習的隱私保護，以及與云計算廠商共同構建基于英特爾可信執行環境的人工智能應用方案。曾參與發表多篇關于人工智能性能優化和可信執行環境的白皮書。朱運閣英特爾數據平臺事業部軟件方案項目組深度學習工程師。研究興趣和專長主要包括可信執行環境、聯邦學習和同態加密。工作重點是基于可信執行環境的數據安全和隱私保護計算。曾參與發表多篇關于可信執行環境安全計算的白皮書，并將解決方案作為最佳實踐發表在國內知名社區網站上。龔奇源博士，英特爾資深機器學習工程師。2016年博士畢業于東南大學計算機應用專業，師從羅軍舟教授，博士期間主要從事數據隱私相關研究。2017年加入英特爾，從事大數據、機器學習和數據隱私相關工作。是大數據+AI開源項目Analytics-Zoo和大數據存儲管理開源項目SSM的主要貢獻者。黃曉軍英特爾數據平臺事業部資深云計算工程師。長期從事軟件架構設計和開發工作，專注于深度學習應用開發與性能優化，以及基于隱私保護機器學習、聯邦學習、同態加密和可信執行環境的應用場景落地。曾參與多個數據安全領域開源項目的開發工作。惠思遠英特爾數據平臺事業部軟件工程師。主要從事數據安全和隱私保護、人工智能等領域的研究與開發等工作，目前與國內多家云計算廠商合作研發基于英特爾可信執行環境的解決方案。研究興趣包括可信執行環境、聯邦學習和機器學習系統等。步建林人工智能與安全軟件工程師。主要從事人工智能、高性能計算與隱私保護計算等領域的相關工作。工作重點主要包括AI推理引擎與訓練框架的研發與優化，以及基于可信執行環境的隱私保護計算方案的設計與構建。畢業于合肥工業大學微電子科學與工程專業，擁有學士學位。
第１部分 基本概念框架
第1章 數據安全的挑戰與需求 2
1.1 數據安全的戰略意義 3
1.2 數據產業面臨的安全挑戰 5
1.3 數據安全核心需求 8
1.3.1 數據生命周期 8
1.3.2 數據安全需求 9
1.4 隱私保護計算背景 10
1.4.1 基本概念 10
1.4.2 國內外政策環境 12
1.5 AI領域中的數據安全問題 15
1.5.1 AI中的CIA數據安全模型 15
1.5.2 AI中的攻擊模型 16
1.5.3 典型AI場景中的數據安全問題 18
參考文獻 20
第2章 隱私保護計算技術 21
2.1 安全多方計算 22
2.1.1 安全多方計算的定義和分類 22
2.1.2 不經意傳輸 23
2.1.3 混淆電路 25
2.1.4 秘密共享 27
2.1.5 零知識證明 29
2.1.6 應用場景 31
2.2 同態加密 31
2.2.1 部分同態加密 33
2.2.2 類同態加密 37
2.2.3 全同態加密 38
2.2.4 應用場景 40
2.3 差分隱私 41
2.3.1 基本定義 42
2.3.2 噪聲機制 42
2.3.3 應用場景 44
2.4 可信執行環境 45
2.4.1 英特爾SGX 46
2.4.2 ARM TrustZone 47
2.4.3 AMD SEV 48
2.4.4 應用場景 51
2.5 各類技術比較 51
2.5.1 安全多方計算 52
2.5.2 同態加密 52
2.5.3 差分隱私 53
2.5.4 可信執行環境 53
參考文獻 54
第3章 AI場景中的隱私保護計算方案 58
3.1 聯邦學習 59
3.1.1 聯邦學習簡介 59
3.1.2 橫向聯邦學習架構及案例 60
3.1.3 縱向聯邦學習架構及案例 62
3.2 聯邦學習擴展方案 64
3.2.1 共享智能 64
3.2.2 聯邦智能 65
3.2.3 知識聯邦 66
3.3 AI推理 67
3.4 隱私保護計算方案總結 69
參考文獻 70
第2部分 深度技術解析
第4章 可信執行環境技術 72
4.1 背景介紹 73
4.2 架構概述 75
4.2.1 芯片支持 75
4.2.2 固件支持 80
4.2.3 軟件棧 80
4.3 關鍵技術 82
4.3.1 內存組織結構 83
4.3.2 內存加密引擎 85
4.3.3 Enclave生命周期 88
4.3.4 線程運行模式 91
4.3.5 密鑰 92
4.3.6 認證 92
4.4 SGX防御的攻擊 98
4.4.1 硬件攻擊防御 99
4.4.2 軟件攻擊防御 99
4.5 SGX面臨的威脅及其防御 101
4.5.1 拒絕服務攻擊 101
4.5.2 Iago攻擊 102
4.5.3 側信道攻擊 102
4.5.4 Enclave代碼漏洞 102
第5章 可信執行環境應用程序開發 104
5.1 軟件棧 105
5.1.1 驅動 105
5.1.2 Qemu/KVM虛擬化 106
5.1.3 軟件棧SDK和PSW 107
5.1.4 數據中心認證DCAP 109
5.2 應用程序開發 112
5.2.1 應用程序開發基本原理 112
5.2.2 應用程序基本構成 115
5.2.3 Hello World案例 116
5.3 TEE生態技術介紹 125
5.3.1 TEE SDK 125
5.3.2 TEE程序分割 126
5.3.3 TEE LibOS 128
5.3.4 TEE容器棧 135
第3部分 工程應用實踐
第6章 聯邦學習的隱私保護與工程實踐 138
6.1 聯邦學習的數據安全問題 139
6.1.1 半誠實的參與方的問題 141
6.1.2 第三方協作者的數據安全問題 147
6.1.3 傳輸間數據安全問題 148
6.2 TEE安全技術解決方案 153
6.2.1 應用程序隔離 153
6.2.2 遠程認證 155
6.2.3 基于遠程認證的傳輸層安全協議 156
6.3 案例實踐 163
6.3.1 橫向聯邦學習實踐 164
6.3.2 縱向聯邦學習實踐 170
6.3.3 總結與展望 173
參考文獻 174
第7章 在線推理服務的安全方案與工程實踐 176
7.1 在線推理服務的安全問題 177
7.1.1 云原生在線推理參考架構及其組件 177
7.1.2 威脅模型與安全目標 181
7.2 安全方案與設計原理 188
7.2.1 安全技術與方案 188
7.2.2 安全模型與邊界 192
7.3 案例實踐 194
參考文獻 198
第8章 大數據AI的安全方案和工程實踐 200
8.1 大數據AI應用中的安全問題 201
8.1.1 大數據生態與相關技術 202
8.1.2 安全目標 206
8.1.3 威脅模型 208
8.2 安全技術與參考方案 209
8.2.1 現有大數據安全技術 209
8.2.2 基于TEE的大數據AI安全方案 218
8.2.3 工作流程與安全性分析 219
8.3 案例實踐 222
8.3.1 可信的大數據AI平臺 223
8.3.2 可信的聯邦學習平臺 225
8.4 總結與展望 229
參考文獻 230
新書資訊