信息论基础与编码

第1章 概论

1.1 信息的基本概念

1.1.1 信息的定义

1.1.2 信息的性质

1.2 信息论研究的对象和内容

1.2.1 信息论研究的对象

1.2.2 信息论的基本定义

1.2.3 信息论研究的内容

1.3 信息论的发展

第2章 信源与信息熵

2.1 信源的数学模型及分类

2.2 离散信源熵和互信息

2.2.1 信息量

2.2.2 离散信源熵

2.2.3 互信息量

2.2.4 数据处理中信息的变化

2.3 信息熵的性质

2.3.1 非负性

2.3.2 确定性

2.3.3 对称性

2.3.4 可加性

2.3.5 极值性

2.3.6 最大熵定理

2.3.7 条件熵小于无条件熵

2.4 离散序列信源熵

2.4.1 离散无记忆信源的序列熵

2.4.2 离散有记忆信源的序列熵

2.4.3 马尔可夫信源及其极限熵

2.5 连续信源熵与互信息

2.5.1 连续信源的信源熵

2.5.2 最大熵定理

2.6 信源的冗余度

习题

第3章 信道与信道容量

3.1 信道的基本概念

3.1.1 信道的数学模型与分类

3.1.2 信道参数

3.1.3 信道容量的定义

3.2 离散信道的容量及其计算

3.2.1 无干扰离散信道

3.2.2 对称离散无记忆信道容量

3.2.3 准对称离散无记忆信道容量

3.2.4 一般离散无记忆信道容量

3.3 离散序列信道及其容量

3.4 独立并联信道及其容量

3.5 串联信道容量及数据处理定理

3.6 连续信道及其容量

3.6.1 连续单符号加性信道

3.6.2 多维无记忆加性连续信道

3.6.3 加性高斯白噪声信道的信道容量

3.7 信源与信道的匹配

习题

第4章 信息率失真函数

4.1 平均失真和信息率失真函数

4.1.1 失真函数

4.1.2 平均失真

4.1.3 信息率失真函数

4.2 信息率失真函数的性质

4.2.1 R（D）函数的定义域

4.2.2 R（D）函数的下凸性

4.2.3 R（D）函数的连续性

4.2.4 R（D）函数的单调递减性

4.3 离散信源的R（D）函数及其计算

4.4 连续信源的R（D）函数及其计算

4.4.1 幅度连续无记忆信源的R（D）函数

4.4.2 差值误差测量与香农界

4.4.3 带记忆的信源的R（D）函数

习题

第5章 信源编码

5.1 编码的定义

5.2 无失真信源编码

5.2.1 定长编码定理

5.2.2 变长编码定理

5.2.3 最佳变长编码

5.3 限失真信源编码定理

5.4 其他无失真信源编码方法

5.4.1 算术编码

5.4.2 游程长度编码

5.5 矢量量化编码

5.5.1 最佳标量量化编码

5.5.2 矢量量化编码

5.6 预测编码

5.6.1 线性预测编码的基本原理

5.6.2 最佳线性预测编码

5.7 变换编码

5.7.1 正交变换与正交矩阵

5.7.2 K-L变换

5.7.3 离散傅里叶变换

5.7.4 离散余弦变换

5.7.5 离散沃尔什-哈达玛变换

5.7.6 离散Haar变换

习题

第6章 信道编码定理

6.1 基础知识

6.1.1 译码准则

6.1.2 费诺不等式

6.1.3 典型序列及其性质

6.2 信道编码定理

6.3 信源信道联合编码定理

习题

第7章 分组码

7.1 信道编码的基本概念

7.1.1 信道编码的作用与分类

7.1.2 纠错与检错原理

7.1.3 纠错与检错能力

7.2 线性分组码的基本数学理论

7.2.1 线性空间及其性质

7.2.2 生成矩阵

7.2.3 校验矩阵

7.2.4 对偶码和系统码

7.2.5 差错图样

7.3 线性分组码的译码

7.3.1 线性分组码的伴随式译码

7.3.2 标准阵列译码

7.4 汉明码及译码

7.4.1 汉明码编码

7.4.2 汉明码的伴随式译码

7.4.3 汉明码的主要性质

7.5 循环码（CRC）

7.5.1 循环码基础

7.5.2 循环码生成矩阵、生成多项式和监督矩阵

7.5.3 循环码的编、译码

7.6 BCH和RS编码以及译码

7.6.1 BCH码

7.6.2 RS码

7.7 线性分组码的应用

习题

第8章 卷积码

8.1 卷积码的基本概念

8.2 卷积码的编码

8.2.1 解析法中的码多项式法描述

8.2.2 矩阵生成法描述

8.2.3 离散卷积法描述

8.2.4 卷积码的图形描述法

8.3 卷积码的译码

8.3.1 卷积码的代数译码

8.3.2 Viterbi译码算法

8.3.3 序列译码

8.3.4 卷积码的生成函数

8.4 卷积码的类型

8.4.1 卷积码中的好码

8.4.2 几种类型的卷积码

8.5 卷积码的应用

8.5.1 交织编码

8.5.2 卷积码在移动通信中的应用

8.6 级联编码

习题

第9章 加密编码

9.1 加密编码的基础知识

9.1.1 密码学的发展概况

9.1.2 密码学的基本概念

9.2 几种古典密码

9.2.1 凯撒密码

9.2.2 密钥短语密码

9.2.3 维吉尼亚密码

9.3 数据加密标准

9.3.1 DES加密算法

9.3.2 DES的解密过程

9.3.3 DES的安全性

9.4 国际数据加密算法

9.5 RSA公钥密码

9.5.1 公钥密码的基本概念

9.5.2 RSA公钥密码体制

9.5.3 RSA的安全性

9.6 模拟信号加密

9.6.1 模拟置乱加密

9.6.2 数字化加密

习题

参考文献

《21世纪高等院校信息与通信工程规划教材·高校系列：信息论基础与编码》系统地介绍了信息论基础与编码的主要内容，以及在无线通信系统中的主要应用。全书共9章，在介绍了有关信息度量的基础上，重点讨论了无失真信源编码、限失真信源编码、信道容量、信道编码和密码学的理论知识。全书从简单的理论入手，结合大量的例题描述信息论与编码的原理和应用，其中，原理的叙述力求突出概念和思路，尽量免去深奥的纯数学推导，与具体的应用相结合。在各章还附有相应的习题，便于学生加深理解。
《21世纪高等院校信息与通信工程规划教材·高校系列：信息论基础与编码》可作为高等院校信息工程、通信工程以及电子信息类学生的教材，也可供低年级研究生或工程技术人员阅读参考。

《21世纪高等院校信息与通信工程规划教材·高校系列：信息论基础与编码》是工业和信息化普通高等教育“十二五”规划教材立项项目。《21世纪高等院校信息与通信工程规划教材·高校系列：信息论基础与编码》内容丰富，逻辑性强，通俗易懂；理论叙述力求突出重要概念和主体思路，包含大量例题，尽量避免纯数学推导，与具体的应用相结合；每章附有习题。《21世纪高等院校信息与通信工程规划教材·高校系列：信息论基础与编码》可作为高等院校信息工程、通信工程以及电子信息类专业的教材，也可供相关专业低年级研究生或工程技术人员参考。