信息理论基础习题集

第1章 信息的统计度量 1.1 内容提要 1.1.1 信息的概念 1.1.2 通信系统模型 1.1.3 信息的统计度量 1.2 例题 1.3 练习题第2章 离散信源 2.1 内容提要 2.1.1 信源的数学模型及其分类 2.1.2 离散无记忆信源 2.1.3 离散无记忆信源的扩展信源 2.1.4 离散平稳信源 2.1.5 马尔可夫信源 2.1.6 信源的相关性和冗余度

第1章 信息的统计度量 1.1 内容提要 1.1.1 信息的概念 1.1.2 通信系统模型 1.1.3 信息的统计度量 1.2 例题 1.3 练习题第2章 离散信源 2.1 内容提要 2.1.1 信源的数学模型及其分类 2.1.2 离散无记忆信源 2.1.3 离散无记忆信源的扩展信源 2.1.4 离散平稳信源 2.1.5 马尔可夫信源 2.1.6 信源的相关性和冗余度 2.2 例题 2.3 练习题第3章 离散信道 3.1 内容提要 3.1.1 离散无记忆信道 3.1.2 离散无记忆扩展信道 3.1.3 信道的组合 3.1.4 信道容量 3.1.5 几种特殊信道及其信道容量的计算 3.1.6 信源和信道的匹配 3.2 例题 3.3 练习题第4章 无失真信源编码 4.1 内容提要 4.1.1 概述 4.1.2 编码器 4.1.3 分组码 4.1.4 定长码 4.1.5 变长码 4.2 例题 4.3 练习题第5章 有噪信道编码 5.1 内容提要 5.1.1 噪声信道的编码问题 5.1.2 编码方法 5.1.3 有噪信道编码定理 5.1.4 错误概率的上界 5.2 例题 5.3 练习题第6章 限失真信源编码 6.1 内容提要 6.1.1 引入 6.1.2 失真测度 6.1.3 信息率失真函数的定义和性质 6.1.4 限失真信源编码定理 6.1.5 信息率失真函数的计算 6.2 例题 6.3 练习题第7章 连续信源和连续信道 7.1 内容提要 7.1.1 连续信源 7.1.2 连续信道 7.1.3 连续信道的信道编码定理 7.1.4 连续信源的信息率失真函数 7.2 例题 7.3 练习题练习题参考答案参考文献

本书是关于信息理论的例题和习题汇编，概括了信息理论中的基本内容。 全书共分7章，内容主要包括信息理论的统计度量、离散信源、离散信道及其容量、无失真信源编码、有噪信道编码、限失真信源编码、连续信源和连续信道。 每章分为内容提要、例题和练习题3个部分。内容提要部分对每章的基本内容以及读者应该掌握的主要内容作了较深入的概括。针对各章中的重要课题编选了共160道例题和132道练习题。大部分练习题书末均附有答案。 本书层次清楚，概念清晰，文字通俗，可供学习信息理论的理工科大学师生使用，亦可供有关科技人员学习信息理论时作为参考书。