信息论与编码

第1章 绪论

1.1 信息的概念

1.1.1 信息的定义、特征与性质

1.1.2 信息的分类

1.1.3 信息、消息和信号的区别与联系

1.2 信息传输系统的组成及各部分的功能

1.2.1 模拟信息传输系统

1.2.2 数字信息传输系统

1.3 信息论研究的对象和内容

1.4 信息论发展的历史和趋势

第2章 信息的量度及离散信源

2.1 自信息量和条件自信息量

2.1.1 自信息量

2.1.2 条件自信息量

2.2 互信息量和条件互信息量

2.2.1 互信息量

2.2.2 互信息量的性质

2.2.3 条件互信息量

2.3 离散信源的信息量

2.3.1 信源的数学模型

2.3.2 信源的分类

2.3.3 平均信息量

2.4 熵的基本性质

2.5 消息序列的熵

2.5.1 离散无记忆信源

2.5.2 离散无记忆的扩展信源

2.5.3 离散平稳信源

2.5.4 马尔可夫信源

2.6 信源的相关性和剩余度

习题

第3章 信源编码

3.1 无失真信源编码

3.1.1 编码器

3.1.2 分组码

3.1.3 等长码和等长编码定理

3.1.4 变长码和变长编码定理

3.1.5 变长码的编码方法

3.2 限失真信源编码

3.2.1 失真测度

3.2.2 信息率失真函数

3.2.3 离散信源的信息率失真函数

3.2.4 限失真信源编码定理

3.2.5 连续信源的信息率失真函数

3.3 常用信源编码

3.3.1 矢量量化编码

3.3.2 预测编码

3.3.3 变换编码

3.3.4 传真编码

3.3.5 语音压缩编码

3.3.6 图像编码

习题

第4章 离散信道及信道容量

4.1 信道分类与描述

4.1.1 信道的分类

4.1.2 信道的描述

4.2 离散无记忆信道

4.2.1 离散信道的数学模型

4.2.2 单符号离散信道

4.3 信道传输的平均互信息

4.3.1 信道疑义度

4.3.2 平均互信息

4.4 平均互信息的特性

4.5 信道容量的概念及其计算方法

4.5.1 信道容量的定义

4.5.2 几种典型离散信道的信道容量

4.5.3 对称离散信道的信道容量

4.5.4 一般离散信道的信道容量

4.5.5 离散无记忆的扩展信道及其信道容量

4.5.6 串联信道和并联信道及其信道容量

4.6 信源与信道的匹配

习题

第5章 信道编码

5.1 信道编码的基本概念

5.1.1 信道编码在数字通信系统的地位和作用

5.1.2 信道编码的基本思想和分类

5.1.3 差错控制的基本方式

5.1.4 信道编码基本数学知识

5.2 有噪信道编码

5.2.1 噪声信道的编码问题

5.2.2 错误概率与编码方法

5.2.3 有噪信道编码定理

5.3 线性分组码

5.3.1 分组码的性质

5.3.2 生成矩阵与奇偶校验矩阵

5.3.3 几种典型的分组码

5.4 卷积码

5.4.1 卷积码的编码

5.4.2 卷积码的译码

5.5 纠正突发错误码

5.5.1 突发差错与纠突发差错的基本概念

5.5.2 法尔码

5.6 交织码

习题

第6章 信息工程中的数据保密

6.1 信息保密通信的模型

6.2 传统密码体制

6.2.1 单表代换密码

6.2.2 多表代换密码

6.2.3 多字母代换

6.2.4 转置密码

6.3 分组（块）密码

6.3.1 分组加密的基本概念

6.3.2 数据加密标准（DES）

6.4 公钥密码体制

6.4.1 公钥密钥的一般原理

6.4.2 RSA体制

习题

参考文献

《高等院校电气信息类规划教材：信息论与编码》共分6章，即绪论、信息的量度及离散信源、信源编码、离散信道及信道容量、信道编码、信息工程中的数据保密。内容包括理论基础（前四章）和应用（后两章）两个方面。理论基础部分主要介绍信息的基本理论与基本概念，包括：信息熵、互信息、信息率失真函数、信道容量以及它们的性质与计算等。应用部分主要介绍信息与通信系统中的优化及其实现手段与方法，包括：信源编码定理、无失真的统计匹配编码、解除相关性的预测编码与变换编码、实用性的文字传真编码、语音编码与图像编码等提高系统有效性的信源编码、信道编码定理、分组码的基本理论与方法、卷积码的基本理论与方法等提高系统可靠性的信道编码以及信息工程中的数据保密等。《高等院校电气信息类规划教材：信息论与编码》适合作为高等理工科院校电子信息工程、通信工程、信号与信息处理学科的本科生教材，也可供研究生、夜大、自学考试及成人教育有关专业选用，还可供有关科技人员学习参考。

本书共分6章，即绪论、信息的量度及离散信源、信源编码、离散信道及信道容量、信道编码、信息工程中的数据保密。内容包括理论基础（前四章）和应用（后两章）两个方面。理论基础部分主要介绍信息的基本理论与基本概念，包括：信息熵、互信息、信息率失真函数、信道容量以及它们的性质与计算等。应用部分主要介绍信息与通信系统中的优化及其实现手段与方法，包括：信源编码定理、无失真的统计匹配编码、解除相关性的预测编码与变换编码、实用性的文字传真编码、语音编码与图像编码等提高系统有效性的信源编码、信道编码定理、分组码的基本理论与方法、卷积码的基本理论与方法等提高系统可靠性的信道编码以及信息工程中的数据保密等。 本书适合作为高等理工科院校电子信息工程、通信工程、信号与信息处理学科的本科生教材，也可供研究生、夜大、自学考试及成人教育有关专业选用，还可供有关科技人员学习参考。