信息论与编码学习辅导及习题详解

第1章 绪论

1.1 基本内容和学习要点

1.1.1 信息的概念及常用术语

1.1.2 通信系统的统一模型

1.1.3 信息传输系统的模型

第2章 离散信源及其信息测度

2.1 基本内容和学习要点

2.1.1 信源的分类

2.1.2 基本信源的数学模型

2.1.3 离散信源的信息熵

2.1.4 信息熵的基本性质

2.1.5 离散无记忆扩展信源的信息熵

2.1.6 离散平稳信源的信息熵

2.1.7 马尔可夫信源及其信息熵

2.1.8 信源剩余度

2.2 习题详解

2.3 精选习题解答

第3章 离散信道及其信道容量

3.1 基本内容和学习要点

3.1.1 信道的分类

3.1.2 离散信道的数字模型

3.1.3 离散信道的平均互信息及其特性

3.1.4 多个随机变量之间的平均互信息

3.1.5 离散信道的信道容量及其计算方法

3.1.6 常见信道的平均互信息和信道容量

3.1.7 无记忆N次扩展信道的I(X；Y)和容量CN

3.1.8 独立并联信道的互信息和信道容量

3.1.9 串接信道互信息及信道容量

3.1.10 信道剩余度

3.2 习题详解

3.3 精选习题解答

第4章 波形信源和波形信道

4.1 基本内容和学习要点

4.1.1 连续信源的差熵

4.1.2 多维连续平稳信源的信息熵

4.1.3 波形信源的差熵

4.1.4 差熵的性质

4.1.5 最大差熵定理

4.1.6 连续信源熵的变换

4.1.7 熵功率和熵功率不等式

4.1.8 波形信道和连续信道的分类和数学模型

4.1.9 连续信道和波形信道的平均互信息及其特性

4.1.10 连续信道和波形信道的信道容量

4.1.11 香农公式的重要实际指导意义

4.2 习题详解

4.3 精选习题解答

第5章 无失真信源编码定理与编码

5.1 基本内容和学习要点

5.1.1 信源编码和码的类型

5.1.2 即时码及其树图构造法

5.1.3 唯一可译码存在的充要条件

5.1.4 唯一可译码的判断法

5.1.5 渐近等分割性和ε典型序列

5.1.6 无失真等长信源编码定理

5.1.7 无失真变长信源编码定理(香农第一定理)

5.1.8 无失真信源编码定理和数据压缩

5.1.9 最佳二元码

5.1.10 香农(Shannon)码

5.1.11 费诺(Fano)码

5.1.12 霍夫曼(Huffman)码

5.1.13 香农-费诺-埃利斯码

5.1.14 游程编码和MH编码

5.1.15 算术编码

5.1.16 字典码

5.2 习题详解

5.3 精选习题解答

第6章 有噪信道编码定理与纠错码

6.1 基本内容和学习要点

6.1.1 译码准则

6.1.2 平均错误概率

6.1.3 费诺不等式

6.1.4 信道编码的编、译基本原则

6.1.5 联合典型序列

6.1.6 有噪信道编码定理及其逆定理

6.1.7 信源信道编码定理

6.1.8 纠错码的分类

6.1.9 线性分组码的基本概念

6.1.10 线性分组码

6.1.11 汉明码及其扩展码

6.1.12 循环码

6.1.13 卷积码

6.2 习题详解

6.3 精选习题解答

第7章 保真度准则下的信源编码

7.1 基本内容和学习要点

7.1.1 失真度(失真函数)与平均失真度

7.1.2 信息率失真函数

7.1.3 信息率失真函数的特性

7.1.4 R(D)函数的参量表述及其计算

7.1.5 常见信源的R(D)函数

7.1.6 保真度准则下信源编码定理(香农第三定理)

7.1.7 信息—传输定理(联合有失真信源信道编码定理)

7.2 习题详解

7.3 精选习题解答

第8章 网络信息论

8.1 基本内容和学习要点

8.1.1 通信网信道的分类

8.1.2 多个随机变量的联合典型序列

8.1.3 多址接入信道

8.1.4 广播信道

8.1.5 中继信道

8.1.6 反馈信道

8.1.7 相关信源无失真编码

8.1.8 相关信源的多址接入信道

8.1.9 具有边信息的无失真信源编码

8.1.10 具有边信息的率失真信源编码

8.2 习题详解

参考书目

《信息论与编码学习辅导及习题详解》是学习信息与编码理论课程的教辅用书，旨在为本科生和硕士研究生的课程学习提供指导和帮助。《信息论与编码学习辅导及习题详解》以香农信息理论为核心内容，同时也包含信源压缩编码、纠错码以及网络信息论等内容。全书共分8章，每章由基本内容和学习要点、习题详解和精选习题解答三部分组成。基本内容和学习要点部分是对各章节知识点的高度概括。在此基础上，对基本题和精选题作了详细推演和解答。
全书概念清晰，解题详细，一题多解，便于自学。书中习题详解部分是属基本题和中度难题，精选题解部分是属中度难题和难题，所以它具有广泛性和代表性。因此，《信息论与编码学习辅导及习题详解》不只局限于某本教科书，可以与不同版本的同类教材配套使用。
《信息论与编码学习辅导及习题详解》可供高等学校电子、信息、通信类及相关专业的教师和本科生、硕士研究生等参考使用，也可供有关科技人员学习专业基础理论时参考。