信息论基础

前言

第1章 概论

1.1 信息论的基本内容--信息理论所关注的信息特征

1.2 信息论简史

1.3 关于控制论、信息论与系统论

1.4 信息论的应用

1.5 有关的常用不等式

习题1

第2章 信息的度量与熵

2.1 自信息

2.2 熵、条件熵、联合熵及其性质

2.3 互信息与相对熵

2.4 凸函数与熵的凸性

2.5 微分熵

2. 5.1 连续信源的微分熵.

2.5.2 联合微分熵、条件微分熵

2.5.3 连续信源的相对熵与互信息

2.5.4 具有最大微分熵的连续信源一一最大熵原理

2.5.5 信息功率

习题2

第3章 随机过程的信息量与熵率、渐近等分性质

3.1 随机过程的基本概念

3.2 熵率

3.3 冗余度与相对冗余度

3.4 数据处理不等式

3.5 平稳Gauss随机过程的熵率

3.6 渐近等分性质

3.7 渐近等分性质在数据压缩中的应用--信源编码定理

3.7.1 无记忆信源的等长编码定理

3.7.2 一般离散信源的等长编码定理

习题3

第4章 信源编码

4.1 等长编码

4.2 变长编码

4.2.1 Kraft不等式

4.2.2 离散信源的变长编码定理

4.3 Huffman编码

4.4 算术码

4.4.1 Shannon码

4.4.2 Shannon-Fano-Elias码

4.4.3 算术码

4.5 通用信源编码-LZ码

习题4

第5章 通信信道与信道容量

5.1 离散无记忆信道与信道容量

5.2 信道容量的计算

5. 2.1 按定义计算的方法

5.2.2 拉格朗日乘子法

5.2.3 特征方程法

……

第6章 信息几何学

《信息论基础》基于编者在中国科学技术大学多年的教学经验编写而成，其内容包括概述，信息的度量与熵，随机过程的信息量与熵率、渐近等分性质，信源编码，通信信道与信道容量，信息几何学等6章，每章都配备了足够多的例题与习题，书末还附有习题的提示和答案，
《信息论基础》具有少而精、将主要问题讲深讲透而非面面俱到、由浅入深、便于自学等特点，可供高等院校应用数学专业，统计专业以及与计算机有关的信息学院、管理学院等一些专业作为学习“信息论”的教材或参考书.