本教材主要闡述了如下內(nèi)容: 濾波器組設(shè)計理論、小波理論、小波在圖像處理中的典型應(yīng)用、信號分析前沿技術(shù)介紹等。其目的在于使讀者掌握對于數(shù)據(jù)處理非常重要的工具--小波與濾波器--的理論及其應(yīng)用方法。
20世紀80年代后期,隨著計算機技術(shù)的快速發(fā)展,對數(shù)據(jù)尤其是數(shù)字圖像進行分析的需求越來越強烈,迫切需要新的處理技術(shù)跟進.一位來自法國的年輕學者Mallat發(fā)表了兩篇論文,闡述了一種全新的數(shù)據(jù)表示的思想,就是著名的多尺度分析.從此,圍繞這種新思想產(chǎn)生了一門新的學科——小波分析.從小波分析發(fā)展的脈絡(luò)來看,小波分析受到了來自數(shù)學和技術(shù)兩個方面的推動而產(chǎn)生,符合科學發(fā)展的基本規(guī)律,即便如此,多尺度分析思想的美妙震驚了很多從事理論和技術(shù)的科學家.此后,小波分析技術(shù)作為一門專門的學科吸引了大量的數(shù)學家和計算機技術(shù)專家進行深入的研究,前后長達20年時間,直到21世紀初,小波分析的理論和應(yīng)用得到了長足的發(fā)展,形成了相對獨立完整的學科分支.
由于小波分析產(chǎn)生于美國,我國直到1992年才陸續(xù)開始引進國際上相關(guān)專著和教材,國內(nèi)也興起了一波小波分析方面專著和教材的出版熱潮.迄今為止,未經(jīng)嚴格統(tǒng)計,專門介紹小波理論或者應(yīng)用的書籍不下幾百部,在很多高校曾經(jīng)長時間存在小波分析理論或者應(yīng)用的課程,這些課程一度是最熱門課程之一.中科院也是最早開設(shè)小波分析課程的單位之一.由于小波分析不同于其他數(shù)據(jù)分析技術(shù),它具有相對完整而深刻的數(shù)學內(nèi)涵,因此早期課程大多由數(shù)學專業(yè)的學者進行講授,但是聽課的學生往往是工科同學居多,這就導致深入的數(shù)學基礎(chǔ)要求所帶來的學習和理解上的障礙.后期,有不少工科專業(yè)的學者陸續(xù)開始講授小波分析應(yīng)用類的課程.由于小波分析本身的很多特點都需要借助于數(shù)學知識才能得到更好的說明,因此,完全從技術(shù)角度講授小波分析,效果也不是很理想.直到1996年,Strang和Nguyen聯(lián)合出版了一本教材《waveletsand.lterbanks》,并在麻省理工學院開設(shè)了同名課程,該書還被多所知名高校采用作為教材.由于這本書從兩個不同角度——理論和應(yīng)有——講述了小波分析的內(nèi)涵:濾波器組和小波分析,解決了以前偏重于數(shù)學或者技術(shù)的問題,個人以為此教材比較適合于不同背景學生的學習.
從2001年開始,我在中科院研究生院(中國科學院大學的前身)采用Strang的教材作為藍本進行教學.教學的過程中發(fā)現(xiàn),此教材理論還是偏多,應(yīng)用部分講得比較少,尤其是在小波分析取得重要應(yīng)用效果的圖像處理領(lǐng)域應(yīng)用更是缺少,因此,講課時選用了一些比較經(jīng)典的小波應(yīng)用于圖像處理的文獻作為講課材料.同時,隨著課程內(nèi)容的不斷成熟,小波分析領(lǐng)域也逐漸歸于平靜,很多學者開始用小波分析開展新的數(shù)據(jù)分析技術(shù)的研究.因此,除了在Strang的教材基礎(chǔ)上增加了系統(tǒng)性的圖像處理應(yīng)用之外,還選編了部分非線
小波與濾波器組設(shè)計:理論及其應(yīng)用
性信號分析技術(shù),有些內(nèi)容也是我和我的學生多年科研成果的一部分,作為小波分析前沿以及后繼研究的延續(xù),以期給學生們看到學科發(fā)展的路線圖,并能迅速結(jié)合新技術(shù)進行他們各自未來課題的研究.
課程開設(shè)15年以來,聽課的學生數(shù)量一直較多,總數(shù)超過2000人,作為基礎(chǔ)要求相對較高的一門專業(yè)普及課程,多年來一直能夠有這么多學生聽課,也算是小波分析特有的現(xiàn)象.2010年超星數(shù)字圖書館對我的課程進行了全程錄像,并進行了后期制作,配上了字幕,放在超星數(shù)字圖書館中供讀者觀看.迄今為止,觀看該教學視頻的人數(shù)超過15萬次,對于小波分析技術(shù)的普及起到了一定的作用.現(xiàn)在的教材承蒙清華大學出版社劉穎老師的鼓勵,將我講課的講義進行系統(tǒng)整理,選編了一些新的例題和習題,形成教材的樣式.這對于該課程的教學會有較大的幫助.
寫書的過程中,由于本人時間關(guān)系,邀請了兩位年輕的學者李保濱和胡晰遠共同參與.李保濱副教授是數(shù)學專業(yè)出身,就負責了數(shù)學要求較高的幾個章節(jié)的整理(第1章至第6章),胡晰遠副研究員跟我從事多年圖像處理的研發(fā),對于小波分析的應(yīng)用比較熟悉,就負責小波分析應(yīng)用部分的整理和深化.我本人在寫書過程中具體寫的反而較少,整理了第11章.在此,向他們二位致以感謝,他們作為作者都貢獻了大量的精力,為本書的形成做出了巨大貢獻.同時,出版社以劉穎老師為代表的老師們的敬業(yè)精神也給我們留下深刻的印象,一些很細致的問題得以被發(fā)現(xiàn)和改正,向他們致以高度的敬意.盡管如此,本書可能還會存在不足之處,尤其本書的內(nèi)容體系完全是多年課程的積累,受個人興趣的影響,難免有些偏頗,也歡迎廣大讀者提出寶貴建議,在此一并致謝.我們在適當時機也會進行修訂,希望貢獻更好的教材,為小波分析的發(fā)展做出一點微博的貢獻.
彭思龍
2017年7月
第1章引言....1
1.1信號與采樣1
1.2傅里葉變換與Z變換....5
1.3小波與濾波器..7
1.4習題...13
第2章濾波器組...15
2.1抽取與插值.....15
2.2二通道濾波器組....20
2.2.1完全重構(gòu)條件...21
2.2.2半帶濾波器和濾波器構(gòu)造.....23
2.3多相位矩陣.....24
2.4習題...31
第3章正交濾波器組..33
3.1仿酉矩陣..33
3.2濾波器組構(gòu)造的柵格方法...35
3.3正交濾波器的構(gòu)造方法39
3.4習題...45
第4章正交小波與多尺度分析.46
4.1正交多尺度分析....46
4.2正交小波..49
4.3Daubechies小波...60
4.4Cascade算法..67
4.5習題...71
小波與濾波器組設(shè)計:理論及其應(yīng)用
第5章雙正交小波與濾波器....72
5.1雙正交小波及其多尺度分析.....72
5.2雙正交濾波器組....78
5.3具有對稱性和緊支撐的雙正交小波.81
5.4習題...85
第6章小波濾波器的提升算法.86
6.1提升算法..86
6.2雙正交濾波器的提升格式分解..90
第7章圖像的小波分解及其統(tǒng)計特性...95
7.1圖像的離散小波分解...95
7.2圖像處理中的線性逆問題...98
7.3馬爾可夫隨機場初步.100
7.3.1馬爾可夫隨機場基本理論...100
7.3.2馬爾可夫隨機場與吉布斯分布..102
7.3.3基于最大后驗概率-馬爾可夫隨機場模型的復原算法介紹103
7.4圖像小波變換的基本特性.106
7.5圖像在小波域的統(tǒng)計模型.109
7.6常用參數(shù)估計方法介紹....117
第8章小波域圖像去噪算法..121
8.1圖像去噪模型介紹.....121
8.2小波域圖像去噪的最大后驗概率模型..124
8.3小波域圖像去噪的收縮模型...129
8.3.1小波去噪閾值選擇.132
8.3.2小波閾值去噪背后的原理...138
8.3.3空間自適應(yīng)收縮去噪算法...141
8.3.4偽吉布斯效應(yīng)和平穩(wěn)小波閾值去噪.144
8.4基于樣條變換的小波去噪算法146
8.5三維變換域聯(lián)合濾波去噪算法151
第9章小波域圖像復原算法..157
9.1圖像復原模型介紹.....157
9.2小波域稀疏約束圖像復原.160
目錄
9.3基于小波域隱馬爾可夫樹模型的圖像復原.164
9.3.1問題的化簡和求解.165
9.3.2隱馬爾可夫樹模型參數(shù)向量的估計.167
9.3.3算法描述及實驗結(jié)果比較...168
9.4基于小波域相對誤差約束的圖像復原算法.170
9.4.1圖像去模糊中的振鈴現(xiàn)象...170
9.4.2頻率域相對誤差....174
9.4.3基于頻率域相對誤差的圖像去模糊算法.178
第10章小波圖像壓縮技術(shù)...183
10.1圖像編碼基礎(chǔ)....183
10.2小波系數(shù)的樹表示和編碼.....189
10.3嵌入式零樹小波編碼技術(shù).....191
10.3.1零樹小波定義....192
10.3.2零樹小波編碼....192
10.3.3零樹逐次逼近量化...194
10.3.4嵌入式零樹小波編碼算法示例.....196
10.4多級樹集合分裂算法200
10.5JPEG2000和EBCOT算法簡介206
10.6多分量預測編碼技術(shù)介紹.....213
10.6.1圖像的多分量預測模型...215
10.6.2多分量預測編碼算法介紹及結(jié)果比較.218
第11章幾何小波初步....221
11.1圖像模型和最優(yōu)逼近222
11.1.1圖像模型.....222
11.1.2最優(yōu)逼近.....223
11.2Curvelet變換....225
11.2.1連續(xù)Curvelet變換..225
11.2.2離散Curvelet變換..227
11.2.3Curvelet變換的奇異性檢測..228
11.3Bandlet.230
11.3.1幾何流..230
11.3.2幾何流的確定....232
11.3.3Bandlet的最佳m-項逼近.....232
小波與濾波器組設(shè)計:理論及其應(yīng)用
11.3.4Bandlet的應(yīng)用..233
11.4Contourlet...235
11.4.1拉普拉斯金字塔.236
11.4.2方向濾波器組....237
11.5幾何小波總結(jié)....238
第12章稀疏表示與壓縮感知介紹.....239
12.1基本概念介紹....239
12.2匹配追蹤介紹....241
12.3基追蹤介紹.248
12.3.1基追蹤算法介紹.249
12.3.2基于稀疏表示的圖像分解.....252
12.4壓縮感知介紹....256
12.4.1壓縮感知基本原理...256
12.4.2壓縮感知算法介紹...258
12.4.3壓縮感知應(yīng)用示例...262
第13章自適應(yīng)信號分解算法介紹.....265
13.1信號的自適應(yīng)分解概念..265
13.2經(jīng)驗?zāi)J椒纸馑惴?..268
13.2.1經(jīng)驗?zāi)J椒纸馑惴ɑA(chǔ)...268
13.2.2經(jīng)驗?zāi)J椒纸庵邪j(luò)的分析與改進....271
13.2.3經(jīng)驗?zāi)J椒纸庵械哪J交殳B現(xiàn)象.278
13.3零空間追蹤算法介紹283
13.3.1基于微分算子的零空間追蹤算法.286
13.3.2基于微分算子的零空間追蹤算法.290
附錄A數(shù)學基礎(chǔ)知識298
A.1線性空間.....298
A.2線性賦范空間.....299
A.3希爾伯特空間.....301
參考文獻...305
第1章引言
小波分析(waveletanalysis)是20世紀80年代發(fā)展起來的一門新興數(shù)學分支,是當今數(shù)學領(lǐng)域中一個迅猛發(fā)展的新方向,是20世紀數(shù)學研究成果中杰出代表之一.它汲取了諸如泛函分析、數(shù)值分析、樣條分析、調(diào)和分析等眾多數(shù)學分支的精華,并又包羅了它們的許多特色;它是繼傅里葉(Fourier)分析之后又一重要的數(shù)學分析方法,是調(diào)和分析發(fā)展史上里程碑式的進展;它為20世紀的現(xiàn)代分析學作了完美的總結(jié).與傳統(tǒng)分析方法相比,小波分析具有廣闊的應(yīng)用前景,它給許多相關(guān)學科的研究帶來了新思想,并且為工程學提供了一種新的更有效的分析工具;它反映了大科學時代學科之間相互滲透、交叉、融合的趨勢,是純粹數(shù)學與應(yīng)用數(shù)學及工程技術(shù)殊途同歸的光輝典范[1–4].
1.1信號與采樣
在日常生活中,人們經(jīng)常接收到來自電視、手機、互聯(lián)網(wǎng)等多種媒體發(fā)布的信息,為了傳播和方便使用,往往需要將這些信息轉(zhuǎn)換成便于傳輸和處理的信號,例如語音、視頻信號等.一般來說,信號是信息的載體,是信息的一種物理體現(xiàn),表現(xiàn)為隨時間變化的某種物理量.
信號的產(chǎn)生、傳輸和處理是由系統(tǒng)完成的.系統(tǒng)是指由若干相互關(guān)聯(lián)的事物組合而成、具有特定功能的整體,例如手機、電視等.系統(tǒng)的基本作用是對輸入的信息、信號進行加工和處理,轉(zhuǎn)化為所需要的輸出信號.
可以用確定的時間函數(shù)表示信號.在連續(xù)時間范圍內(nèi)有定義的信號稱為連續(xù)時間信號,簡稱連續(xù)信號;相對應(yīng)的,僅在離散的時刻才有定義的信號,稱為離散時間信號,簡稱離散信號.連續(xù)信號和離散信號通常分別表示為x(t)和x(n),這里t表示連續(xù)時間,n表示離散
的值.對于n∈Z.離散信號x通常記為
.....
x(.1)
x=[···,x.1,x0,x1,···]或者x=x(0).
.
.x(1)....
.
···
圖1.1連續(xù)信號(a)和離散信號(b)單位脈沖信號δ(n)是一類比較特殊的信號,其定義為
δ(n)=
I1,
0,
二n
n=0;=0,
(1.1)
也就是說,該信號在n=0處值為1,其他處的值都為0(如圖1.2(a)所示).由定義可知,對于任意的信號{x(n)}n∈Z,都有
藝x(n)δ(n)=x(0).
n∈Z
通過對信號平移n0,我們可以得到δ(n.n0),該信號在n=n0處為1,其他處為0,進一步容易得到:
藝x(n)δ(n.n0)=x(n0).(1.2)
n∈Z
另外,也可以借助單位脈沖信號得到其他特殊信號,如圖1.2(b)所示的階躍信號u(n),其定義為
I1,n:0;
u(n)=
0,n<0,
它可以表示為
+∞
u(n)=藝δ(n.j).
j=0
對于連續(xù)和離散信號,還可分為周期和非周期的信號.
1.1信號與采樣3
圖1.2單位脈沖信號(a)和階躍信號(b)
定義1.1.1(周期信號)對于連續(xù)信號x(t),如果存在T>0,使得
x(t+kT)=x(t),k∈Z,
那么x(t)稱為周期連續(xù)信號.同樣地,如果離散信號x(n)滿足
x(n+kN)=x(n),N,k∈Z,且N>0,
則稱x(n)為周期離散信號.滿足上述等式的T和N稱為信號的周期.
對于周期信號,我們只需要知道其在一個周期的變化過程,就可由周期性確定信號在整個定義域內(nèi)的取值.例如正弦信號sint或余弦信號cos(2t),周期分別為2π和π,我們只需描述一個周期[0,T]內(nèi)信號變化即可,其他區(qū)域內(nèi)的變化和取值可由周期性定義得到.并不是所有的信號都滿足上述周期性定義,對于不滿足周期定義的信號稱為非周期信號.
在許多實際問題中,常常需要將連續(xù)時間信號X(t)變?yōu)殡x散時間信號x(n),這就要對信號進行采樣:x(n)=X(nT),.∞
即:x(n)是通過X(t)每隔T時間間隔取值得到的,這里T稱為采樣周期或采樣間隔,其1
倒數(shù)f=T稱為采樣頻率.采樣周期越短,采樣頻率越大,也就是單位時間內(nèi)采樣得到的離散點越多,也就越能更好地描述原來的連續(xù)信號.圖1.3給出了在不同采樣頻率下,余弦信號cost采樣后得到離散信號的情況,圖中實心點代表采樣得到的離散的值.從圖1.3可見,隨著采樣頻率越來越大,采樣得到離散信號值也越來越多,離散信號也越來越逼近原來的連續(xù)信號.甚至可以設(shè)想,如果采樣頻率無限增大,那么最后得到的離散信號會和原來的連續(xù)信號一樣.
……