信息论基础与应用PDF|Epub|txt|kindle电子书版本下载

信息论基础与应用PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

第一部分 信息科学概论1

第一章 信息科学与信息技术概论3

§1.1 信息的定义与特征3

1.1.1 信息的定义3

1.1.2 信息的特征4

1.1.3 信息的类型与表达方式6

§12 信息科学、信息技术与信息产业7

1.2.1 信息科学的研究内容、目的与意义7

1.2.2 信息技术与信息产业11

§1.3 信息论的产生、发展与应用13

1.3.1 信息论的早期酝酿14

1.3.2 香农（Shannon）信息论的建立与发展16

1.3.3 信息论与信息科学的发展趋势与展望23

§1.4 本书的内容简介与符号说明26

1.4.1 内容简介26

1.4.2 有关问题的说明28

§1.5 习题29

2.1.2 信息度量的原则31

2.1.1 信息的可度量性31

§2.1 信息度量问题概述31

第二章 信息的度量问题31

§2.2 香农熵——随机变量的不确定性度量32

2.2.1 随机变量和它的不确定性32

2.2.2 不确定性的特征表示与香农熵的产生33

2.2.3 香农熵的简单性质与例子36

2.2.4 联合熵与条件熵36

§2.3 熵的基本性质39

2.3.1 对数函数的基本不等式与熵函数的最大值40

2.3.2 熵函数的可加性41

2.3.3 信息论中的重要不等式42

§2.4 互熵与互信息45

2.4.1 互熵的定义与性质45

2.4.2 互信息的定义与性质46

2.4.3 条件互信息的定义与性质47

§2.5 连续型随机变量的信息量49

2.5.1 关于连续型随机变量信息量的推广问题49

2.5.2 连续型随机变量的熵与互信息50

2.5.3 若干连续型随机变量熵的计算公式51

2.5.4 其他连续型随机变量的信息量54

2.6.1 最大熵原理的一般方法55

§2.6 最大熵原理55

2.6.2 最大熵分布的求解问题56

§2.7 习题58

第二部分 信息论基础61

第三章 通信系统概论63

§3.1 通信系统的基本模型与要素63

3.1.1 通信系统的基本要素63

3.1.2 通信系统中信息的传递过程64

3.2.1 信源与信道的概率统计模型65

§3.2 单字母表通信系统的概率统计模型65

3.1.3 通信系统的概率统计模型65

3.2.2 通信系统的数学模型67

3.2.3 由通信系统决定的随机变量68

§3.3 通信系统的序列模型与编码问题69

3.3.1 通信系统的序列模型69

3.3.2 通信系统序列中的编码问题71

3.3.3 关于编码理论的基本要点72

§3.4 习题73

§4.1 信源编码的基本问题75

4.1.1 信源编码的基本要求与分类75

第四章 信源编码问题75

4.1.2 即时码与前缀码78

§4.2 变长码的编码问题80

4.2.1 变长码的平均码长与编码问题80

4.2.2 Kraft不等式81

4.2.3 变长码的平均码长估计问题84

§4.3 哈夫曼（Huffman）码与算术码86

4.3.1 哈夫曼码的构造运算86

4.3.2 算术码90

4.4.1 通用码的一般概念91

§4.4 通用码简介91

4.4.2 LZW码的编码运算92

4.4.3 LZW码的译码运算94

4.4.4 Yang-Kieffer码简介95

4.4.5 通用码的一般理论97

§4.5 信源定长码的编码定理98

4.5.1 信源序列的一般编码问题98

4.5.2 信源序列的一般编码定理100

4.5.3 无记忆信源序列的编码定理100

§4.6 习题102

5.1.1 通信中编码的数量与质量关系问题105

§5.1 信道编码问题105

第五章 信道编码定理105

5.1.2 信道序列的编码问题107

§5.2 离散无记忆信道112

5.2.1 信道容量112

5.2.2 几种典型的无记忆信道113

5.2.3 无记忆信道序列的信道容量115

§5.3 信道序列的正、反编码定理117

5.3.1 一般信道序列的正、反编码定理118

5.3.2 无记忆信道的正、反编码定理122

5.4.1 拉格朗日乘子法124

§5.4 信道容量的计算问题124

5.4.2 信道容量的递推计算法128

§5.5 可加高斯信道132

§5.6 习题135

第六章 有失真的信源编码定理139

§6.1 有失真信源编码问题139

6.1.1 有失真信源编码问题的意义139

6.1.2 有失真信源的率失真函数140

6.1.3 有失真信源的编码问题144

6.2.1 一般信源序列的正编码定理146

§6.2 有失真信源编码定理146

6.2.2 一般信源序列的反编码定理148

6.2.3 无记忆信源序列的正、反编码定理150

§6.3 率失真函数的计算问题154

6.3.1 计算率失真函数的一般方法154

6.3.2 几种特殊信源的率失真函数的计算156

§6.4 习题159

第三部分 信息论应用161

§7.1 代数码理论的基本特点与应用163

7.1.1 代数码的基本特点163

第七章 编码与密码163

7.1.2 线性码169

7.1.3 线性码的译码问题175

7.1.4 汉明码177

§7.2 信息论与密码学179

7.2.1 密码学的发展概况180

7.2.2 密码体制的基本要素与模型181

7.2.3 对密码体制的随机分析183

7.2.4 几种典型的密码体制186

§7.3 习题189

8.1.1 数据压缩问题概述193

第八章 数据压缩与卷积码193

§8.1 数据压缩理论的应用193

8.1.2 静态图像数据压缩的基本运算194

8.1.3 数据压缩技术分析的主要指标198

8.1.4 数据压缩中的其他问题199

§8.2 卷积码200

8.2.1 卷积码的构造200

8.2.2 卷积码的树与格子结构204

8.2.3 卷积码的译码算法208

§8.3 习题211

9.1.1 概况213

9.1.2 EM算法213

第九章 信息论在统计与金融领域中的应用213

§9.1 信息论在统计中的应用213

9.1.3 互熵与Fisher矩阵218

§9.2 组合投资决策（Portfolio）中的应用221

9.2.1 组合投资决策问题221

9.2.2 最优组合投资决策的计算222

§9.3 习题225

10.1.1 汉字的分类问题227

§10.1 汉字编码问题227

第十章 几种实用的编码问题227

10.1.2 汉字的编码类型228

10.1.3 汉字的形、音结构228

10.1.4 汉字编码的应用228

§10.2 图形码概述229

第四部分 信息处理实验231

第十一章 无失真与有失真信源编码实验233

§11.1 无失真的数据压缩233

11.1.1 无失真的数据压缩的标准文本233

11.1.2 哈夫曼编码的实现236

11.1.3 LZW数据压缩算法243

§11.2 有失真的数据压缩248

11.2.1 数字图像及其失真度量248

11.2.2 JPEG数据压缩算法的主要步骤250

第十二章 其他编码问题263

§12.1 卷积码与Viterbi译码263

§12.2 图形码268

12.2.1 条形码268

12.2.2 二维条形码278

参考文献287