相關商品
商品簡介
目次
商品簡介
本書系統講述了資訊理論及編碼的基礎理論和方法，主要包括離散信源及熵、離散通道及通道容量、離散信源編碼與香農第一定理、離散通道與香農第二定理、連續信源與連續通道、率失真函數、香農第三定理等。採用較多的通信和資訊系統相關的背景例題和圖示闡述基本概念，注重編碼理論、編碼方法的實現過程的教學內容編寫，給出重要演算法的實現流程圖，並附有程式設計演算法的實現程式，便於讀者對課程的理解和應用。
目次
目 錄
第1章 緒論 1
1.1 資訊的概念 1
1.2 資訊理論的研究物件、目的和內容 3
1.2.1 研究物件 3
1.2.2 研究目的 5
1.2.3 研究內容 5
第2章 信息的測度 7
2.1 自信息 7
2.2 平均自信息 9
2.2.1 平均自資訊的概念 9
2.2.2 熵的物理意義 10
2.3 熵函數的性質 11
2.3.1 對稱性 12
2.3.2 確定性 12
2.3.3 非負性 13
2.3.4 擴展性 13
2.3.5 連續性 13
2.3.6 可加性 13
2.3.7 強可加性 14
2.3.8 極值性 15
2.3.9 上凸性 16
2.4 互資訊和平均互資訊 16
2.4.1 互信息 16
2.4.2 平均互信息 17
2.4.3 平均互資訊的性質 19
2.4.4 平均條件互資訊 21
思考題 21
習題 22
第3章 離散信源熵 24
3.1 信源分類及數學模型 24
3.1.1 離散信源 24
3.1.2 連續信源 25
3.1.3 信源分類 25
3.2 離散信源熵的計算 26
3.3 離散無記憶擴展信源 27
3.4 離散平穩信源 30
3.4.1 離散平穩信源的數學定義 30
3.4.2 二維離散平穩信源及其資訊熵 31
3.4.3 離散平穩信源的極限熵 34
3.5 瑪律可夫信源 35
3.5.1 瑪律可夫信源的定義 36
3.5.2 瑪律可夫信源的熵 38
3.6 信源的相關性和剩餘度 39
3.6.1 實際離散信源的不同模型近似過程 40
3.6.2 信源剩餘度 40
思考題 42
習題 42
第4章 離散通道及通道容量 44
4.1 通道模型及其分類 44
4.1.1 通道模型 44
4.1.2 通道分類 45
4.2 離散單符號通道及其通道容量 46
4.2.1 離散單符號通道的數學模型 46
4.2.2 離散通道各種概率間的關係式 47
4.2.3 通道中平均互資訊的物理意義 47
4.2.4 通道中條件熵的物理意義 48
4.2.5 通道容量的概念 49
4.2.6 幾種特殊通道的通道容量 50
4.2.7 離散對稱通道的通道容量 52
4.2.8 利用通道容量定理求解通道容量 55
4.3 離散多符號通道及其通道容量 57
4.3.1 離散多符號通道的數學模型 57
4.3.2 離散多符號通道的通道容量 58
4.4 組合通道及其通道容量 60
4.4.1 獨立並聯通道 60
4.4.2 級聯通道 61
4.5 信源與通道的匹配和通道剩餘度 62
思考題 63
習題 63
第5章 無失真信源編碼 66
5.1 信源編碼的一般概念 66
5.1.1 編碼器的構成 66
5.1.2 常用信源編碼的概念 67
5.1.3 即時碼的樹圖構造法 71
5.2 定長碼和定長信源編碼定理 73
5.2.1 定長碼 73
5.2.2 定長編碼定理 74
5.2.3 編碼效率 75
5.3 變長碼和變長信源編碼定理 77
5.3.1 克拉夫特（Kraft）不等式 77
5.3.2 唯一可譯變長碼的判別方法 78
5.3.3 平均碼長 81
5.3.4 信源變長編碼定理 82
5.3.5 無失真變長信源編碼定理 83
5.3.6 編碼效率 84
5.4 典型的變長編碼方法 86
5.4.1 香農碼 86
5.4.2 霍夫曼碼 87
5.4.3 費諾碼 93
5.4.4 香農-費諾-艾理斯碼 95
思考題 97
習題 98
第6章 有噪通道編碼 101
6.1 通道編碼的一般概念 101
6.1.1 編碼通道 101
6.1.2 通道編碼的概念 102
6.1.3 差錯控制的基本方式 102
6.2 通道解碼的選取規則 104
6.2.1 影響平均錯誤概率的因素 105
6.2.2 解碼規則的選取準則 105
6.2.3 費諾不等式 108
6.3 通道編碼的選取規則 110
6.3.1 簡單重複編碼 110
6.3.2 通道編碼的選取 112
6.3.3 （5，2）線性碼 113
6.3.4 碼的最小距離 115
6.3.5 最小距離解碼準則 116
6.4 有噪通道編碼定理 117
6.5 改錯碼原理 118
6.5.1 檢錯與糾錯原理 119
6.5.2 檢錯與糾錯能力 119
6.6 線性分組碼 121
6.6.1 線性分組碼的基本概念 121
6.6.2 線性分組碼的編碼 123
6.6.3 線性分組碼的性質 127
6.6.4 線性分組碼的解碼 129
6.6.5 漢明碼 137
思考題 142
習題 142
第7章 連續信源熵和連續通道容量 146
7.1 連續信源的差熵 146
7.1.1 一維連續信源的差熵 146
7.1.2 N維連續信源的差熵 149
7.1.3 典型連續信源的差熵 150
7.2 連續信源最大差熵定理 151
7.2.1 峰值受限條件下連續信源的最大熵 152
7.2.2 平均功率受限條件下連續信源的最大熵 152
7.3 連續信源熵的性質 153
7.3.1 可負性 153
7.3.2 可加性 153
7.3.3 極值性 154
7.3.4 上凸性 154
7.3.5 變換性 154
7.4 連續通道的平均互資訊及性質 157
7.4.1 連續通道分類及數學模型 157
7.4.2 連續通道的平均互資訊 160
7.4.3 連續通道平均互資訊的性質 161
7.5 連續通道的通道容量 164
7.5.1 單符號高斯雜訊加性通道 164
7.5.2 多維無記憶高斯雜訊加性通道 165
7.5.3 加性高斯白色雜訊波形通道 169
思考題 171
習題 172
第8章 限失真信源編碼 174
8.1 信源失真測度 174
8.1.1 單符號信源失真度 174
8.1.2 信源符號序列失真度 176
8.1.3 平均失真度 177
8.1.4 信源符號序列的平均失真度 178
8.2 資訊率失真函數 178
8.2.1 保真度準則 178
8.2.2 信息率失真函式定義 179
8.2.3 資訊率失真函數性質 180
8.3 典型率失真函數的計算 185
8.3.1 離散對稱信源的R(D)函數 185
8.3.2 連續信源的 R (D ) 函數 188
8.4 限失真信源編碼定理 193
思考題 194
習題 194
附錄A Jensen不等式 196
附錄B 熵函數的函數表 198
附錄C 實驗內容和程式 200
C.1 唯一可解碼判決準則 200
C.2 Huffman編碼 205
C.3 （7，4）線性分組碼 210
參考文獻 214
第1章 緒論 1
1.1 資訊的概念 1
1.2 資訊理論的研究物件、目的和內容 3
1.2.1 研究物件 3
1.2.2 研究目的 5
1.2.3 研究內容 5
第2章 信息的測度 7
2.1 自信息 7
2.2 平均自信息 9
2.2.1 平均自資訊的概念 9
2.2.2 熵的物理意義 10
2.3 熵函數的性質 11
2.3.1 對稱性 12
2.3.2 確定性 12
2.3.3 非負性 13
2.3.4 擴展性 13
2.3.5 連續性 13
2.3.6 可加性 13
2.3.7 強可加性 14
2.3.8 極值性 15
2.3.9 上凸性 16
2.4 互資訊和平均互資訊 16
2.4.1 互信息 16
2.4.2 平均互信息 17
2.4.3 平均互資訊的性質 19
2.4.4 平均條件互資訊 21
思考題 21
習題 22
第3章 離散信源熵 24
3.1 信源分類及數學模型 24
3.1.1 離散信源 24
3.1.2 連續信源 25
3.1.3 信源分類 25
3.2 離散信源熵的計算 26
3.3 離散無記憶擴展信源 27
3.4 離散平穩信源 30
3.4.1 離散平穩信源的數學定義 30
3.4.2 二維離散平穩信源及其資訊熵 31
3.4.3 離散平穩信源的極限熵 34
3.5 瑪律可夫信源 35
3.5.1 瑪律可夫信源的定義 36
3.5.2 瑪律可夫信源的熵 38
3.6 信源的相關性和剩餘度 39
3.6.1 實際離散信源的不同模型近似過程 40
3.6.2 信源剩餘度 40
思考題 42
習題 42
第4章 離散通道及通道容量 44
4.1 通道模型及其分類 44
4.1.1 通道模型 44
4.1.2 通道分類 45
4.2 離散單符號通道及其通道容量 46
4.2.1 離散單符號通道的數學模型 46
4.2.2 離散通道各種概率間的關係式 47
4.2.3 通道中平均互資訊的物理意義 47
4.2.4 通道中條件熵的物理意義 48
4.2.5 通道容量的概念 49
4.2.6 幾種特殊通道的通道容量 50
4.2.7 離散對稱通道的通道容量 52
4.2.8 利用通道容量定理求解通道容量 55
4.3 離散多符號通道及其通道容量 57
4.3.1 離散多符號通道的數學模型 57
4.3.2 離散多符號通道的通道容量 58
4.4 組合通道及其通道容量 60
4.4.1 獨立並聯通道 60
4.4.2 級聯通道 61
4.5 信源與通道的匹配和通道剩餘度 62
思考題 63
習題 63
第5章 無失真信源編碼 66
5.1 信源編碼的一般概念 66
5.1.1 編碼器的構成 66
5.1.2 常用信源編碼的概念 67
5.1.3 即時碼的樹圖構造法 71
5.2 定長碼和定長信源編碼定理 73
5.2.1 定長碼 73
5.2.2 定長編碼定理 74
5.2.3 編碼效率 75
5.3 變長碼和變長信源編碼定理 77
5.3.1 克拉夫特（Kraft）不等式 77
5.3.2 唯一可譯變長碼的判別方法 78
5.3.3 平均碼長 81
5.3.4 信源變長編碼定理 82
5.3.5 無失真變長信源編碼定理 83
5.3.6 編碼效率 84
5.4 典型的變長編碼方法 86
5.4.1 香農碼 86
5.4.2 霍夫曼碼 87
5.4.3 費諾碼 93
5.4.4 香農-費諾-艾理斯碼 95
思考題 97
習題 98
第6章 有噪通道編碼 101
6.1 通道編碼的一般概念 101
6.1.1 編碼通道 101
6.1.2 通道編碼的概念 102
6.1.3 差錯控制的基本方式 102
6.2 通道解碼的選取規則 104
6.2.1 影響平均錯誤概率的因素 105
6.2.2 解碼規則的選取準則 105
6.2.3 費諾不等式 108
6.3 通道編碼的選取規則 110
6.3.1 簡單重複編碼 110
6.3.2 通道編碼的選取 112
6.3.3 （5，2）線性碼 113
6.3.4 碼的最小距離 115
6.3.5 最小距離解碼準則 116
6.4 有噪通道編碼定理 117
6.5 改錯碼原理 118
6.5.1 檢錯與糾錯原理 119
6.5.2 檢錯與糾錯能力 119
6.6 線性分組碼 121
6.6.1 線性分組碼的基本概念 121
6.6.2 線性分組碼的編碼 123
6.6.3 線性分組碼的性質 127
6.6.4 線性分組碼的解碼 129
6.6.5 漢明碼 137
思考題 142
習題 142
第7章 連續信源熵和連續通道容量 146
7.1 連續信源的差熵 146
7.1.1 一維連續信源的差熵 146
7.1.2 N維連續信源的差熵 149
7.1.3 典型連續信源的差熵 150
7.2 連續信源最大差熵定理 151
7.2.1 峰值受限條件下連續信源的最大熵 152
7.2.2 平均功率受限條件下連續信源的最大熵 152
7.3 連續信源熵的性質 153
7.3.1 可負性 153
7.3.2 可加性 153
7.3.3 極值性 154
7.3.4 上凸性 154
7.3.5 變換性 154
7.4 連續通道的平均互資訊及性質 157
7.4.1 連續通道分類及數學模型 157
7.4.2 連續通道的平均互資訊 160
7.4.3 連續通道平均互資訊的性質 161
7.5 連續通道的通道容量 164
7.5.1 單符號高斯雜訊加性通道 164
7.5.2 多維無記憶高斯雜訊加性通道 165
7.5.3 加性高斯白色雜訊波形通道 169
思考題 171
習題 172
第8章 限失真信源編碼 174
8.1 信源失真測度 174
8.1.1 單符號信源失真度 174
8.1.2 信源符號序列失真度 176
8.1.3 平均失真度 177
8.1.4 信源符號序列的平均失真度 178
8.2 資訊率失真函數 178
8.2.1 保真度準則 178
8.2.2 信息率失真函式定義 179
8.2.3 資訊率失真函數性質 180
8.3 典型率失真函數的計算 185
8.3.1 離散對稱信源的R(D)函數 185
8.3.2 連續信源的 R (D ) 函數 188
8.4 限失真信源編碼定理 193
思考題 194
習題 194
附錄A Jensen不等式 196
附錄B 熵函數的函數表 198
附錄C 實驗內容和程式 200
C.1 唯一可解碼判決準則 200
C.2 Huffman編碼 205
C.3 （7，4）線性分組碼 210
參考文獻 214
您曾經瀏覽過的商品
購物須知
大陸出版品因裝訂品質及貨運條件與台灣出版品落差甚大，除封面破損、內頁脫落等較嚴重的狀態，其餘商品將正常出貨。
特別提醒：部分書籍附贈之內容(如音頻mp3或影片dvd等)已無實體光碟提供，需以QR CODE 連結至當地網站註冊“並通過驗證程序”，方可下載使用。
無現貨庫存之簡體書，將向海外調貨：
海外有庫存之書籍，等候約45個工作天;
海外無庫存之書籍，平均作業時間約60個工作天，然不保證確定可調到貨，尚請見諒。
為了保護您的權益，「三民網路書店」提供會員七日商品鑑賞期(收到商品為起始日)。
若要辦理退貨，請在商品鑑賞期內寄回，且商品必須是全新狀態與完整包裝(商品、附件、發票、隨貨贈品等)否則恕不接受退貨。