本書主要介紹模式識別的基礎知識、基本方法、程序實現和典型實踐應用。全書共9章。第1章介紹模式識別的基本概念、基礎知識;第2章介紹貝葉斯決策理論;第3章介紹概率密度函數的參數估計;第4章介紹非參數判別分類方法;第5章介紹聚類分析;第6章介紹特征提取與選擇;第7章介紹模糊模式識別;第8章介紹神經網絡在模式識別中的應用;第9章介紹模式識別的工程應用。每章的內容安排從問題背景引入,講述基本內容和方法,到實踐應用(通過MATLAB軟件編程)。本書內容系統,重點突出,做到理論、應用與實際編程緊密結合,理論與實例并重。本書還配套有《模式識別及MATLAB實現――學習與實驗指導》作為教材的補充,便于讀者學習和上機實驗;另配有電子課件,便于教師教學和學生自學。本書可作為高等院校電子信息工程、通信工程、計算機科學與技術、電子科學與技術、生物醫學工程、電氣工程及其自動化等相關專業本科生的教材,以及信息與通信工程、控制科學與工程、計算機科學與技術、生物醫學工程、光學工程和電子科學與技術等專業的研究生教材;也可作為從事小模式識別、人工智能和計算機應用研究與開發的工程技術人員的參考書。
武漢理工大學博導,教授,湖北省通信學會常務理事。主要學術經歷:
教學:主要承擔數字圖像處理,模式識別,信息傳輸理論等課程的教學工作。
科研:近幾年先后承擔了國家自然科學基金面上項目,湖北省科技攻關項目,海南科技廳項目,武漢市科技攻關項目,國家留學基金項目,交通部重點項目和企業合作項目30余項;在國內外學術刊物上發表學術論文60余篇,被SCI和EI收錄論文40余篇,出版教材3部。 獲武漢理工大學優秀碩士學位論文獎,優秀博士論文獎。
主要在研項目:
多維信息融合及智能識別與預警研究,嵌入式系統的智能視頻識別開發研究,無源雷達關鍵技術研究及自動數字視頻跟蹤軟件系統開發等。
目 錄
第1章 緒論 1
1.1 模式識別的基本概念 1
1.1.1 生物的識別能力 1
1.1.2 模式識別的概念 2
1.1.3 模式識別的特點 2
1.1.4 模式的描述方法及特征空間 4
1.2 模式識別系統的組成和主要方法 5
1.2.1 模式識別系統的組成 5
1.2.2 模式識別的方法 7
1.3 模式識別的應用 9
1.3.1 文字識別 9
1.3.2 語音識別 10
1.3.3 指紋識別 10
1.3.4 遙感圖像識別 11
1.3.5 醫學診斷 11
1.4 全書內容簡介 12
習題及思考題 13
第2章 貝葉斯決策理論 14
2.1 幾個重要的概念 14
2.2 幾種常用的決策規則 15
2.2.1 基于最小錯誤率的貝葉斯決策 16
2.2.2 最小風險判別規則 18
2.2.3 最大似然比判別規則 20
2.2.4 Neyman-Pearson判別規則 22
2.3 正態分布中的Bayes分類方法 26
2.4 MATLAB程序實現 33
習題及思考題 37
第3章 概率密度函數的參數估計 39
3.1 概率密度函數估計概述 39
3.2 最大似然估計 40
3.3 貝葉斯估計與貝葉斯學習 42
3.4 非參數估計 47
3.4.1 非參數估計的基本方法 48
3.4.2 Parzen窗法 50
3.4.3 -近鄰估計法 54
3.5 MATLAB示例 55
習題及思考題 60
第4章 非參數判別分類方法 62
4.1 線性分類器 62
4.1.1 線性判別函數的基本概念 62
4.1.2 多類問題中的線性判別函數 64
4.1.3 廣義線性判別函數 68
4.1.4 線性分類器的主要特性及設計步驟 70
4.1.5 感知器算法 74
4.1.6 Fisher線性判別函數 79
4.2 非線性判別函數 84
4.2.1 非線性判別函數與分段線性判別函數 84
4.2.2 基于距離的分段線性判別函數 85
4.3 支持向量機 87
4.3.1 線性可分情況 87
4.3.2 線性不可分情況 89
4.4 MATLAB示例 91
習題及思考題 94
第5章 聚類分析 95
5.1 模式相似性測度 95
5.1.1 距離測度 96
5.1.2 相似測度 99
5.1.3 匹配測度 100
5.2 類間距離測度方法 102
5.2.1 最短距離法 102
5.2.2 最長距離法 102
5.2.3 中間距離法 102
5.2.4 重心法 103
5.2.5 平均距離法(類平均距離法) 103
5.3 聚類準則函數 105
5.3.1 誤差平方和準則 105
5.3.2 加權平均平方距離和準則 106
5.3.3 類間距離和準則 107
5.3.4 離散度矩陣 107
5.4 基于距離閾值的聚類算法 108
5.4.1 最近鄰規則的聚類算法 109
5.4.2 最大最小距離聚類算法 109
5.5 動態聚類算法 111
5.5.1 C-均值聚類算法 111
5.5.2 ISODATA聚類算法 115
5.6 MATLAB示例 121
習題及思考題 126
第6章 特征提取與選擇 128
6.1 類別可分性判據 128
6.2 基于距離的可分性判據 129
6.3 按概率距離判據的特征提取方法 131
6.4 基于熵函數的可分性判據 134
6.5 基于Karhunen-Loeve變換的特征提取 135
6.5.1 Karhunen-Loeve變換 135
6.5.2 使用K-L變換進行特征提取 138
6.6 特征選擇 141
6.6.1 次優搜索法 142
6.6.2 最優搜索法 143
6.7 MATLAB舉例 145
習題及思考題 147
第7章 模糊模式識別 148
7.1 模糊數學的基礎知識 148
7.1.1 集合及其特征函數 148
7.1.2 模糊集合 149
7.1.3 模糊集合的 水平截集 154
7.1.4 模糊關系及模糊矩陣 155
7.2 模糊模式識別方法 156
7.2.1 最大隸屬度識別法 157
7.2.2 擇近原則識別法 157
7.2.3 基于模糊等價關系的聚類方法 159
7.2.4 模糊C-均值聚類 161
7.3 MATLAB程序設計 163
習題及思考題 165
第8章 神經網絡在模式識別中的應用 167
8.1 人工神經網絡的基礎知識 167
8.1.1 人工神經網絡的發展歷史 167
8.1.2 生物神經元 168
8.1.3 人工神經元 168
8.1.4 人工神經網絡的特點 169
8.2 前饋神經網絡 169
8.2.1 感知器 170
8.2.2 多層感知器 171
8.3 自組織特征映射網絡 173
8.3.1 網絡結構 173
8.3.2 網絡的識別過程 174
8.3.3 網絡的學習過程 174
8.4 徑向基函數(RBF)神經網絡 175
8.4.1 網絡結構 175
8.4.2 徑向基函數 176
8.4.3 網絡的學習過程 176
8.5 深度學習 177
8.5.1 深度學習介紹 178
8.5.2 受限玻爾茲曼機 178
8.5.3 深度置信網絡 180
8.5.4 卷積神經網絡 181
8.6 MATLAB舉例 183
習題及思考題 188
第9章 模式識別的工程應用 190
9.1 基于BP神經網絡的手寫數字識別 190
9.1.1 整體方案設計 190
9.1.2 字符圖像的特征提取 191
9.1.3 BP神經網絡的設計 195
9.1.4 BP神經網絡的訓練 197
9.1.5 BP神經網絡的識別 197
9.2 基于樸素貝葉斯的中文文本分類 198
9.2.1 文本分類原理 199
9.2.2 文本特征提取 199
9.2.3 樸素貝葉斯分類器設計 201
9.2.4 測試文本分類 202
9.3 基于PCA(主要成分分析)和SVM(支持向量機)的人臉識別 205
9.3.1 人臉圖像獲取 205
9.3.2 人臉圖像預處理 206
9.3.3 人臉圖像特征提取 207
9.3.4 SVM分類器的設計和分類 209
9.4 基于隱馬爾科夫模型的語音識別 210
9.4.1 語音識別的原理 210
9.4.2 語音采集 211
9.4.3 語音信號的預處理 212
9.4.4 MFCC特征參數提取 216
9.4.5 HMM模型訓練 217
9.4.6 識別處理 218
參考文獻 219