信息论与编码

第1章 绪论

1.1 信息论的基本概念

1.2 数字通信系统的模型

1.3 信息论与编码发展简史

1.4 信息论与编码主要内容和应用

1.4.1 信息论与编码研究的主要内容

1.4.2 目前信息论与编码的主要研究成果

1.4.3 信息论与编码的应用

1.5 小结

习题

第2章 信源与信息熵

2.1 信源的数学模型及分类

2.2 离散信源熵和互信息

2.2.1 自信息量

2.2.2 信息熵

2.2.3 互信息

2.2.4 平均互信息

2.3 信息熵的性质

2.3.1 熵的性质

2.3.2 平均互信息量的性质

2.4 离散序列信源熵

2.4.1 离散无记忆扩展信源

2.4.2 离散平稳信源的熵

2.4.3 马尔可夫的信源

2.5 连续信源熵和互信息

2.5.1 连续单个符号信源熵

2.5.2 几种特殊连续信源熵

2.5.3 连续信源熵的性质

2.5.4 最大熵和熵功率

2.6 冗余度

2.7 小结

习题

第3章 信道与信道容量

3.1 信道的基本概念

3.1.1 信道的定义及分类

3.1.2 信道参数

3.1.3 信道容量的定义

3.2 离散信道及其容量

3.2.1 无干扰离散信道

3.2.2 对称离散信道的信道容量

3.2.3 一般离散信道的容量

3.3 离散序列信道及容量

3.4 连续信道及其容量

3.4.1 连续单符号加性信道

3.4.2 多维无记忆加性连续信道

3.4.3 加性高斯白噪声波形信道

3.5 信源与信道的匹配

3.6 小结

习题

第4章 信息率失真函数

4.1 基本概念

4.1.1 失真函数

4.1.2 平均失真

4.1.3 信息率失真函数R（D）

4.2 信息率失真函数的性质

4.3 离散信源的信息率失真函数

4.4 连续信源的信息率失真函数

4.5 小结

习题

第5章 信源编码

5.1 信源编码的基本概念

5.1.1 分组码的定义

5.1.2 分组码的属性

5.1.3 码树

5.1.4 克劳夫特不等式

5.2 无失真信源编码定理

5.2.1 定长编码定理

5.2.2 变长编码定理

5.3 无失真信源编码方法

5.3.1 最佳变长编码

5.3.2 游程编码

5.3.3 算术编码

5.4 限失真信源编码定理

5.5 限失真信源编码方法

5.5.1 量化编码

5.5.2 预测编码

5.5.3 变换编码

5.6 小结

习题

第6章 信道编码

第7章 加密编码

参考文献

本书系统地讲述信息论与编码的基础理论，包含香农信息论的核心内容，全书共分7章，即绪论、信源与信息熵、信道与信道容量、信息率失真函数、信源编码、信道编码和加密编码。本书文字通俗易懂，注重基本理论和实现原理，与实际通信系统紧密联系，内容由浅入深，尽量减少繁杂的公式推导和定理证明。为了帮助读者掌握基本理论和分析方法，每章都列举了一定数量的例题，章末附有小结和习题，并配有部分习题参考答案。本书可作为高等学校通信工程、电子信息工程、电子信息科学技术等专业本科生教材，也可供通信工程技术人员和科研人员参考。