信息理论与编码

前言

1　信息论概述

1.1　信息的基本概念与特征

1.2　信息论的产生与发展

1.3　信息论研究的主要内容及方法

1.4　香农信息论

习题

2　信息的度量

2.1　离散变量的自信息量

2.2　离散变量的互信息量

2.3　离散变量集的平均自信息量

2.4　离散变量集的平均互信息量

2.5　连续随机变量的信息度量

习题

3　离散信源及其度量

前言

1　信息论概述

1.1　信息的基本概念与特征

1.2　信息论的产生与发展

1.3　信息论研究的主要内容及方法

1.4　香农信息论

习题

2　信息的度量

2.1　离散变量的自信息量

2.2　离散变量的互信息量

2.3　离散变量集的平均自信息量

2.4　离散变量集的平均互信息量

2.5　连续随机变量的信息度量

习题

3　离散信源及其度量

3.1　离散信源的描述与分类

3.2　离散无记忆信源

3.3　离散无记忆扩展信源

3.4　离散有记忆平稳信源

3.5　马尔科夫信源

3.6　信源的剩余度

习题

4　连续信源及其度量

4.1　连续信源的描述与分类

4.2　单维连续信源

4.3　连续信源的最大熵定理

4.4　熵功率

习题

5　信道与信道容量

5.1　信道的描述及分类

5.2　离散无记忆单符号信道及其容量

5.3　离散无记忆多符号信道及其容量

5.4　组合信道及其容量

5.5　多用户信道

5.6　连续信道及其容量

5.7　波形信道及其容量

5.8　信源与信道匹配

习题

6　信源编码

6.1　信源编码的基本概念

6.2　信源的编码性能

6.3　无失真信源编码定理

6.4　无失真信源编码基本方法

6.5　限失真信源编码

习题

7　信道编码

7.1　信道编码的基本概念

7.2　信道编码的基本思想

7.3　信道编码定理

7.4　常用检错码

7.5　几种重要的纠错码

习题

8　密码学基础

8.1　密码学的基本概念

8.2　保密通信系统的数学模型

8.3　古典密码体制的基本类型

8.4　现代密码体制

8.5　密码体制的安全性

8.6　密码技术的应用

习题

9　信息理论与编码的应用

9.1　信息论在多媒体通信中的应用

9.2　信息熵在热力学中的应用

9.3　信息论在生命科学中的应用

9.4　信息论在经济学中的应用

9.5　信息论在哲学中的应用

参考文献

本书重点介绍经典信息论的基本理论，基本覆盖 了信息论基本理论的主要内 容。全书共9章，主要内容包括信息论概述、信息的 度量、离散信源及其度量、连 续信源及其度量、信道与信道容量、信源编码、信道 编码、密码学基础、信息理论 与编码的应用等。为了便于教学和读者自学，每章后 都有习题。本书用丰富的例题 和图示深入浅出地阐述基本概念、基本理论及实现原 理；注重理论与工程实际相联 系，给出了教材中有关问题的分析思路、方法、 MATLAB源代码和处理结果，给 出了一些可供学生自学和研讨的MATLAB习题。
　　本书可作为普通高等院校信息科学与信息技术等 专业的教材用书，也可作为从 事通信、雷达、导航、计算机、系统工程、生物工程 、管理工程等相关领域的科研 和工程技术人员的参考用书。