《機器學習中的基本算法》共八章.第1章和第2章簡要介紹了機器學習的基本概念、研究內容、算法體系，以及相關的優化理論與優化算法.第3章和第4章詳細介紹了幾類作為分類器和回歸器的支持向量機算法，包括算法出發點、建模思想、理論推導和算法在數據分類、識別、擬合、預測等方面的應用.第5章和第6章著重介紹了兩類常用的數據預處理方法，一類是數據的特征提取方法，另一類是數據的聚類方法.第7章和第8章介紹了幾類常用的神經網絡算法和數據相關分析算法.
《機器學習中的基本算法》可用作數據科學與大數據技術、人工智能與云計算、計算機科學與應用、數學與應用數學等本科專業中機器學習課程的教材，也可用作相關或相近學科研究生的參考教材.
目錄
前言
第1章 機器學習簡介 1
1.1 機器學習的基本概念 1
1.1.1 何為機器學習 1
1.1.2 機器學習的發展歷程 2
1.1.3 機器學習與人工智能和深度學習之間的關系 3
1.1.4 機器學習的工作流程 4
1.2 兩個簡單的例子 5
1.3 機器學習的研究內容 6
1.3.1 機器學習算法的種類 6
1.3.2 機器學習算法的評價標準 7
1.3.3 機器學習算法中的過擬合和欠擬合現象 8
1.4 機器學習算法概述 9
第2章 最優化的基本理論 14
2.1 最優化問題 14
2.2 基本概念與基本結論 18
2.3 最優性條件 22
2.4 最優化模型的 Wolfe 對偶形式 28
2.5 無約束最優化算法 31
2.5.1 最速下降法 32
2.5.2 Newton 法 32
2.5.3 阻尼 Newton 法 33
2.5.4 FR 共軛梯度法 33
2.5.5 Newton-Armijo 法 34
2.6 求解二次規劃的兩種快速算法 35
2.6.1 對偶坐標下降算法 35
2.6.2 逐次超松弛迭代算法 36
2.7 交替方向乘子法簡介 38
2.7.1 乘子法 38
2.7.2 交替方向乘子法 39
2.7.3 全局一致性優化 40
2.7.4 基于 1-范數的 ADMM 41
參考文獻 44
第3章 支持向量分類機 45
3.1 基本概念 45
3.2 硬間隔 SVM 47
3.3 軟間隔 SVM 50
3.4 最小二乘 SVM 54
3.5 正則化最小二乘 SVM 55
3.5.1 正則化 LSSVM 55
3.5.2 快速學習 RLSSVM 的方法 57
3.6 正定核函數 58
3.7 再生核 Hilbert 空間 63
3.8 非線性 SVM 65
3.9 孿生 SVM 68
3.10 孿生有界 SVM 78
3.10.1 線性 TBSVM 78
3.10.2 非線性 TBSVM 81
習題與思考題 85
參考文獻 86
第4章 支持向量回歸機 88
4.1 回歸問題的提出 88
4.2 線性 SVR 90
4.2.1 線性硬 ε-帶 SVR 91
4.2.2 線性 ε-SVR 93
4.3 非線性 SVR 94
4.4 孿生 SVR 96
4.4.1 線性 TSVR 96
4.4.2 非線性 TSVR 97
4.5 "-孿生 SVR 99
4.5.1 線性 ε-TSVR 99
4.5.2 非線性 ε-TSVR 100
4.6 TSVR 的兩種最小二乘形式 102
4.6.1 最小二乘 TSVR 102
4.6.2 孿生最小二乘 SVR 104
習題與思考題 107
參考文獻 107
第5章 數據的特征組合方法 108
5.1 預備知識 108
5.1.1 矩陣的范數 108
5.1.2 矩陣的分解 110
5.1.3 類內、類間和總體散陣 112
5.2 主成分分析 113
5.2.1 向量內積的幾何含義 113
5.2.2 坐標系的變換 113
5.2.3 PCA 算法 115
5.3 線性判別分析 117
5.4 LDA 的推廣 122
5.4.1 經典 LDA 123
5.4.2 不相關 LDA 124
5.4.3 正交 LDA 125
5.4.4 正則化 LDA 126
習題與思考題 127
參考文獻 128
第6章 數據聚類方法 130
6.1 k-均值聚類與 k-中心聚類 130
6.1.1 k-均值聚類 130
6.1.2 k-中心聚類 133
6.2 凝聚聚類法 133
6.3 密度聚類法 135
6.4 譜聚類 139
6.4.1 基本概念 139
6.4.2 圖的分割原則 140
6.4.3 譜聚類流程 140
6.5 極大期望聚類法 141
習題與思考題 143
參考文獻 143
第7章 神經網絡簡介 144
7.1 神經元與激活函數 144
7.2 前饋神經網絡 147
7.3 反向傳播算法 150
7.3.1 誤差的計算 151
7.3.2 梯度的計算 151
7.4 正則化極端學習機 152
7.4.1 線性 RELM 153
7.4.2 非線性 RELM 155
7.4.3 在 RELM 中常用的激活函數和核函數 157
7.5 卷積神經網絡 158
7.5.1 卷積核的工作原理 159
7.5.2 如何利用權值和不為 1 的卷積核得到一個灰度圖像 162
7.5.3 卷積核權值的確定 162
7.5.4 池化層的作用 164
習題與思考題 166
參考文獻 166
第8章 典型相關分析 167
8.1 預備知識 167
8.1.1 隨機變量的方差、協方差和相關系數 167
8.1.2 隨機向量的方差、協方差和相關系數 168
8.1.3 隨機矩陣的方差、協方差和相關系數 169
8.2 經典 CCA 170
8.2.1 經典 CCA 的數學模型 170
8.2.2 經典 CCA 的幾何解釋 172
8.2.3 經典 CCA 的求解算法 172
8.3 監督 CCA 175
習題與思考題 177
參考文獻 177
彩圖
新書資訊