信息论与编码

第1章 绪论 1.1　信息的定义与性质　 1.1.1　信息的定义 　1.1.2　信息的性质 1.2　信息论的主要研究内容 1.3　信道编码的研究内容与发展简史 1.4　信源编码的研究内容与发展简史 1.4.1　数据压缩的必要性 1.4.2　数据压缩的可能性和基本方法 1.4.3　信源编码研究的发展简史与现状第2章 离散无记忆信源与信息熵　2.1　离散无记忆信源　2.2 自信息和熵 2.2.1 自信息 2.2.2　信源的信息熵

第1章 绪论 1.1　信息的定义与性质　 1.1.1　信息的定义 　1.1.2　信息的性质 1.2　信息论的主要研究内容 1.3　信道编码的研究内容与发展简史 1.4　信源编码的研究内容与发展简史 1.4.1　数据压缩的必要性 1.4.2　数据压缩的可能性和基本方法 1.4.3　信源编码研究的发展简史与现状第2章 离散无记忆信源与信息熵　2.1　离散无记忆信源　2.2 自信息和熵 2.2.1 自信息 2.2.2　信源的信息熵　2.3　熵函数的性质　2.4　联合事件的熵及其关系 2.4.1 联合事件的概率空间与概率关系 2.4.2　联合熵、无条件熵和条件熵. 2.4.3　各种熵之间的关系　2.5　连续信源的信息测度 　2.5.1　连续信源的差熵　 2.5.2　差熵的基本性质　习题2 第3章 离散无记忆信道与互信息　3.1 单符号离散无记忆信道及其转移概率　3.2　信道疑义度　3.3　范诺不等式　3.4　互信息的定义　 3.4.1　符号间的互信息 　3.4.2　平均互信息　3.5　平均互信息的基本性质　3.6　平均互信息的凸性　3.7　信息系统的可靠性和有效性问题　3.8　连续信道的平均互信息　 3.8.1　单符号连续信道的平均互信息 　3.8.2　连续信道平均互信息的性质　习题3 第4章　信道与信道容量　4.1　信道的描述和分类 4.1.1　信道的描述 4.1.2　信道的分类 4.1.3　离散无记忆信道 4.1.4　高斯白噪声加性波形信道　4.2　信道容量的定义 　4.2.1　信息传输率　 4.2.2　信道容量　4.3　离散信道的信道容量 4.3.1　对称信道的信道容量 4.3.2　准对称信道的信道容量 4.3.3　可逆矩阵信道的信道容量 4.4　离散无记忆信道容量的迭代算法 4.5　连续信道的信道容量 　4.5.1　单符号高斯加性信道　 4.5.2 高斯白噪声加性信道的信道容量 习题4 第5章　有噪信道编码 5.1　最简单的编码方法 5.2　联合e典型序列 5.3 有噪信道编码与Shannon第二编码定理 5.4　Shannon理论对信道编码的指导意义 5.4.1 二进制离散无记忆信道下的极限 5.4.2　AWGN信道下的理论极限　5.5　线性分组码 5.5.1　线性分组码的编码 5.5.2　最小距离译码 5.5.3　伴随式译码 5.5.4　分组码最小距离的边界 5.6　卷积码 5.7　Turho码 习题5第6章 离散信源及其信息冗余　6.1　信源的描述与分类　……第7章　无失真信源编码第8章　限失真信源编码附录A　凸函数与颜森不等式附录B　线性代数基础部分习题参考答案

本书系统地讨论了Shannon信息理论中的基本概念和相关问题，介绍了信道、信源编码的一般原理和基本方法。全书主要内容分为8章，包括绪论、离散无记忆信源与信息熵、离散无记忆信道与互信息、信道与信道容量、有噪信道编码、离散信源及其信息冗余、无失真信源编码和限失真信源编码。 本书可作为信息工程、通信工程、网络工程和计算机应用等相关专业高年级本科生及研究生的教材或教学参考书，也可作为从事信息理论、信息技术和通信系统研究的科研及工程技术人员的参考用书。