信息论与编码

第1章　绪论

1.1　信息论的形成和发展

1.2　通信系统的模型

习题

第2章　信源与信息熵

2.1　信源的描述与分类

2.1.1　无记忆信源

2.1.2　有记忆信源

2.1.3　马尔可夫信源

2.2　离散信源熵和互信息

2.2.1　自信息量

2.2.2　离散信源熵

2.2.3　互信息

2.2.4　数据处理中信息的变化

2.2.5　熵的性质

2.3　离散序列信源熵

2.3.1　离散无记忆信源的序列熵

2.3.2　离散有记忆信源的序列熵

2.4　连续信源熵和互信息

2.4.1　幅度连续的单个符号信源熵

2.4.2　波形信源熵

2.4.3　最大熵定理

2.5　冗余度

本章小结

习题

第3章　信道与信道容量

3.1　信道的基本概念

3.1.1　信道的分类

3.1.2　信道参数

3.1.3　信道容量的定义

3.2　离散单个符号信道及其容量

3.2.1　无干扰离散信道

3.2.2　对称DMC信道

3.2.3　准对称DMC信道

3.2.4　一般DMC信道

3.3　离散序列信道及其容量

3.4　连续信道及其容量

3.4.1　连续单符号加性信道

3.4.2　多维无记忆加性连续信道

3.4.3　限时限频限功率的加性高斯白噪声信道

3.5　信源与信道的匹配

本章小结

习题

第4章　信息率失真函数

4.1　平均失真和信息率失真函数

4.1.1　失真函数

4.1.2　平均失真

4.1.3　信息率失真函数R（D）

4.1.4　信息率失真函数的性质

4.1.5　信息率失真函数与信道容量的比较

4.2　离散信源和连续信源的R（D）计算

本章小结

习题

第5章　信源编码

5.1　编码的定义

5.2　无失真信源编码

5.2.1　定长编码定理

5.2.2　变长编码定理

5.2.3　最佳变长编码

5.3　限失真信源编码定理

5.4　常用信源编码方法简介

5.4.1　游程编码

5.4.2　算术编码

5.4.3　矢量量化

5.4.4　预测编码

5.4.5　变换编码

本章小结

习题

第6章　信道编码

第7章　加密编码

附录　本书所用符号及含义

部分习题参考答案

参考文献

本书重点介绍由香农理论发展而来的信息论的基本理论以及编码的理论和实现原理。全书分7章，在介绍了有关信息度量的基础上，重点讨论了信道容量、率失真函数，以及无失真信源编码、限失真信源编码、信道编码和密码学中的理论知识及其实现原理。本书注重概念，采用通俗的文字，联系目前实际通信系统，用较多的例题和图示阐述基本概念、基本理论及实现原理，尽量减少繁杂的公式定理证明。在各章的最后还附有内容小结和大量习题，书后附有部分习题答案，便于读者学习，加深对概念和原理的理解。此外，本书有配套电子教案。本书可作为理工科高等院校电子信息工程、通信工程及相关专业的本科学生教材，亦可供通信工程、电子工程等相关专业的科技人员学习参考。

可作为理工科高等院校电子信息工程、通信工程及相关专业的本科学生教材，亦可供通信工程、电子工程等相关专业的科技人员学习参考。