本書(shū)重點(diǎn)介紹了香農(nóng)信息論和編碼理論的基本原理及其應(yīng)用。在保持一定理論深度的基礎(chǔ)上,盡可能地簡(jiǎn)化繁雜的公式、定理的證明,采用較多的例題和圖示來(lái)展示基本概念和原理的應(yīng)用。敘述上力求概念清楚、重點(diǎn)突出、深入淺出、通俗易懂,內(nèi)容上力求科學(xué)性、先進(jìn)性、系統(tǒng)性與實(shí)用性的統(tǒng)一。
本書(shū)共9章,內(nèi)容包括:緒論、信息的統(tǒng)計(jì)度量、離散信源和熵、無(wú)失真信源編碼、離散信道和信道容量、有噪信道編碼、連續(xù)信源和連續(xù)信道、限失真信源編碼和網(wǎng)絡(luò)信息論初步。
本書(shū)可作為高等院校電子信息工程、通信工程等相關(guān)專(zhuān)業(yè)的本科生教材,也可作為相關(guān)領(lǐng)域中教學(xué)與科研人員和工程技術(shù)人員的參考用書(shū)。
1、具有鮮明的通信工程和科研案例教學(xué)法特色 2、新教材適用面比傳統(tǒng)信息論教材適用面更廣 3、既保持理論的完整性和系統(tǒng)性,又力求概念清楚、易讀好懂
第1章 緒論
1.1 信息的概念
1.1.1 什么是“信息”
1.1.2 如何度量“信息”
1.2 信息傳輸系統(tǒng)
1.2.1 信息傳輸系統(tǒng)模型
1.2.2 信息傳輸系統(tǒng)的性能指標(biāo)
1.3 信息論的研究?jī)?nèi)容
1.3.1 基本信息論的研究?jī)?nèi)容
1.3.2 一般信息論的研究?jī)?nèi)容
1.3.3 廣義信息論的研究?jī)?nèi)容
1.4 信息論和編碼理論的形成和發(fā)展
習(xí)題
第2章 信息的統(tǒng)計(jì)度量 第1章 緒論
1.1 信息的概念
1.1.1 什么是“信息”
1.1.2 如何度量“信息”
1.2 信息傳輸系統(tǒng)
1.2.1 信息傳輸系統(tǒng)模型
1.2.2 信息傳輸系統(tǒng)的性能指標(biāo)
1.3 信息論的研究?jī)?nèi)容
1.3.1 基本信息論的研究?jī)?nèi)容
1.3.2 一般信息論的研究?jī)?nèi)容
1.3.3 廣義信息論的研究?jī)?nèi)容
1.4 信息論和編碼理論的形成和發(fā)展
習(xí)題
第2章 信息的統(tǒng)計(jì)度量
2.1 隨機(jī)變量的統(tǒng)計(jì)特性
2.1.1 隨機(jī)變量的分類(lèi)及其描述
2.1.2 信源的統(tǒng)計(jì)特性
2.1.3 信道的傳輸特性
2.2 離散隨機(jī)變量的自信息和信息熵
2.2.1 自信息量
2.2.2 信息熵
2.2.3 信息熵的性質(zhì)
2.3 離散隨機(jī)變量的聯(lián)合自信息和聯(lián)合熵
2.3.1 聯(lián)合自信息
2.3.2 聯(lián)合熵
2.4 離散隨機(jī)變量的條件自信息和條件熵
2.4.1 條件自信息
2.4.2 條件熵
2.4.3 各類(lèi)熵之間的關(guān)系
2.5 離散隨機(jī)變量的互信息和平均互信息
2.5.1 互信息
2.5.2 互信息的性質(zhì)
2.5.3 平均互信息
2.5.4 平均互信息的性質(zhì)
2.5.5 平均互信息與各類(lèi)熵之間的關(guān)系
2.5.6 聯(lián)合互信息和條件互信息
2.5.7 信息處理定理
2.6 連續(xù)隨機(jī)變量的信息度量
2.6.1 連續(xù)隨機(jī)變量的熵
2.6.2 連續(xù)隨機(jī)變量的平均互信息
本章小結(jié)
習(xí)題
第3章 離散信源和熵
3.1 離散信源的分類(lèi)
3.2 離散信源的N次擴(kuò)展信源
3.2.1 N次擴(kuò)展信源的數(shù)學(xué)模型
3.2.2 離散信源的N次擴(kuò)展信源的熵
3.2.3 離散無(wú)記憶信源的N次擴(kuò)展信源的熵
3.3 離散平穩(wěn)信源
3.3.1 離散平穩(wěn)信源的數(shù)學(xué)定義
3.3.2 有限維離散平穩(wěn)信源的條件熵
3.3.3 二維離散平穩(wěn)信源的平均符號(hào)熵
3.3.4 離散平穩(wěn)信源的極限熵
3.3.5 計(jì)算極限熵的處理方法
3.4 馬爾可夫信源
3.4.1 馬爾可夫信源的描述
3.4.2 齊次遍歷的馬爾可夫信源
3.4.3 齊次遍歷馬爾可夫信源的極限熵
3.5 信源的相關(guān)性和剩余度
本章小結(jié)
習(xí)題
第4章 無(wú)失真信源編碼
4.1 信源編碼的基本概念
4.1.1 信源編碼的數(shù)學(xué)模型
4.1.2 信源編碼的分類(lèi)
4.1.3 唯一可譯碼和即時(shí)碼
4.1.4 編碼效率
4.2 無(wú)失真信源編碼定理
4.2.1 無(wú)失真定長(zhǎng)信源編碼定理
4.2.2 無(wú)失真變長(zhǎng)信源編碼定理
4.3 常見(jiàn)的無(wú)失真信源編碼方法
4.3.1 香農(nóng)(Shannon)碼
4.3.2 霍夫曼(Huffman)碼
4.3.3 費(fèi)諾(Fano)碼
4.3.4 香農(nóng)-費(fèi)諾-埃利斯碼
4.3.5 算術(shù)碼
4.3.6 LZ碼
本章小結(jié)
習(xí)題
第5章 離散信道和信道容量
5.1 離散信道的分類(lèi)
5.2 離散信道的數(shù)學(xué)模型
5.3 信道容量
5.3.1 信道的信息傳輸率
5.3.2 信道容量的定義
5.4 單符號(hào)離散信道及其信道容量
5.4.1 典型信道的信道容量
5.4.2 串聯(lián)信道及其信道容量
5.4.3 一般離散信道的信道容量
5.4.4 信道容量的迭代算法
5.5 多符號(hào)離散信道及其信道容量
5.5.1 多符號(hào)離散信道的平均互信息
5.5.2 離散無(wú)記憶信道的信道容量
5.5.3 獨(dú)立并聯(lián)信道及其信道容量
5.6 信源與信道的匹配
本章小結(jié)
習(xí)題
第6章 有噪信道編碼
6.1 錯(cuò)誤概率
6.1.1 錯(cuò)誤概率和譯碼規(guī)則
6.1.2 錯(cuò)誤概率與編碼方法
6.2 有噪信道編碼定理
6.3 聯(lián)合信源信道編碼定理
6.4 信道編碼的基本概念
6.4.1 信道編碼的分類(lèi)
6.4.2 線(xiàn)性分組碼的檢錯(cuò)和糾錯(cuò)能力
6.4.3 最小漢明距離譯碼
6.4.4 差錯(cuò)控制的三種方式
6.4.5 差錯(cuò)控制的途徑
6.5 線(xiàn)性分組碼
6.5.1 線(xiàn)性分組碼的編碼
6.5.2 線(xiàn)性分組碼的譯碼
6.5.3 完備碼和漢明碼
6.5.4 對(duì)偶碼
6.5.5 擴(kuò)展碼、縮短碼和刪信碼
6.6 循環(huán)碼
6.6.1 循環(huán)碼的碼多項(xiàng)式
6.6.2 循環(huán)碼的生成多項(xiàng)式和生成矩陣
6.6.3 循環(huán)碼的監(jiān)督多項(xiàng)式和監(jiān)督矩陣
6.6.4 循環(huán)碼的編碼電路
6.6.5 循環(huán)碼的伴隨式
6.6.6 循環(huán)碼的譯碼電路
6.6.7 CRC碼
6.7 BCH碼和RS碼
6.7.1 有限域的基本知識(shí)
6.7.2 二元BCH碼
6.7.3 多元BCH碼和RS碼
6.8 卷積碼
6.8.1 卷積碼的解析表示
6.8.2 卷積碼的圖形描述
6.8.3 卷積碼的譯碼方法
6.8.4 卷積碼的特性
6.8.5 刪余卷積碼
6.8.6 遞歸型系統(tǒng)卷積碼
6.9 交織碼
6.10 級(jí)聯(lián)碼
6.11 Turbo碼
6.11.1 Turbo編碼
6.11.2 Turbo譯碼
6.12 LDPC碼
本章小結(jié)
習(xí)題
第7章 連續(xù)信源和連續(xù)信道
7.1 連續(xù)信源和波形信源的信息度量
7.1.1 一維連續(xù)信源的熵
7.1.2 多維連續(xù)信源的熵
7.1.3 波形信源的熵率
7.2 連續(xù)信源的最大熵
7.2.1 峰功率受限的連續(xù)信源
7.2.2 平均功率受限的連續(xù)信源
7.2.3 連續(xù)信源的熵功率
7.3 連續(xù)信源熵的變換
7.4 波形信道的分類(lèi)和處理方法
7.4.1 波形信道的分類(lèi)
7.4.2 波形信道的處理方法
7.5 連續(xù)信道的平均互信息
7.5.1 連續(xù)信道
7.5.2 加性信道
7.6 連續(xù)信道的信道容量
7.6.1 一維高斯加性信道
7.6.2 多維無(wú)記憶高斯加性信道
7.7 波形信道的信道容量
7.7.1 限帶AWGN信道的容量
7.7.2 香農(nóng)公式的討論
7.8 連續(xù)信道編碼定理
本章小結(jié)
習(xí)題
第8章 限失真信源編碼
8.1 失真測(cè)度
8.1.1 失真函數(shù)
8.1.2 平均失真
8.1.3 保真度準(zhǔn)則
8.2 信息率失真函數(shù)
8.2.1 信息率失真函數(shù)的定義
8.2.2 R(D)函數(shù)的性質(zhì)
8.2.3 常見(jiàn)信源的R(D)函數(shù)
8.3 限失真信源編碼定理
8.4 R(D)函數(shù)的計(jì)算
8.4.1 R(D)函數(shù)的參量表示法
8.4.2 離散對(duì)稱(chēng)信源的R(D)函數(shù)
8.5 聯(lián)合限失真信源信道編碼定理
本章小結(jié)
習(xí)題
第9章 網(wǎng)絡(luò)信息論初步
9.1 網(wǎng)絡(luò)信源
9.2 網(wǎng)絡(luò)信道
9.2.1 多址接入信道
9.2.2 廣播信道
9.3 網(wǎng)絡(luò)信源和網(wǎng)絡(luò)信道的聯(lián)合/分離
9.4 網(wǎng)絡(luò)編碼
9.4.1 網(wǎng)絡(luò)編碼原理
9.4.2 線(xiàn)性網(wǎng)絡(luò)編碼原理
9.4.3 網(wǎng)絡(luò)編碼的優(yōu)勢(shì)
9.5 協(xié)作通信
9.5.1 中繼網(wǎng)絡(luò)中協(xié)作策略及其容量
9.5.2 多中繼高斯信道的容量
附錄A 詹森不等式及其應(yīng)用
A1 詹森不等式
A2 利用詹森不等式證明的性質(zhì)和定理
附錄B 信息度量的常用公式
參考文獻(xiàn)