信息论基础

第1章 概论

1．1 信息的一般概念

1．2 信息论研究的对象、目的和内容

第2章 信源和信源熵

2．1 信源的描述与分类

2．1．1 离散信源与连续信源

2．1．2 离散无记忆信源和离散有记忆信源

2．2 离散信源的信息熵

2．2．1 自信息

2．2．2 信息熵

2．3 信源熵的基本特性和定理

2．4 离散无记忆的扩展信源

2．4．1 最简单的离散信源

2．4．2 N次扩?信源

2．4．3 N次扩展信源的熵

2．5 离散平稳信源

2．5．1 离散平稳信源的数学定义

2．5．2 二维平稳信源及其信息熵

2．5．3 离散平稳信源的信源熵和极限熵

2．6 马尔可夫信源

2．6．1 马尔可夫信源的定义

2．6．2 马尔可夫信源的熵

2．7 信源的相关性和剩余度

2．8 连续信源

2．8．1 连续信源的熵

2．8．2 几种特殊连续信源的熵

2．8．3 最大连续熵定理

习题

第3章 信道和信道容量

第4章 信源编码

第5章 信道编码

第6章 信息率失真函数

第7章 信息理论在现代通信中的应用

参考文献

《信息论基础》系统论述了香农信息论，以香农三个编码定理为中心，重点讲述了相关的基本概念、基本原理和基本方法。《信息论基础》针对本科教学的特点，力求深入浅出，在保持一定理论深度的基础上尽可能地简化数学分析过程，以通俗、生动的语言强化物理概念的描述。为了便于教学和读者自学，部分章节配有习题。
《信息论基础》可作为高等院校通信、电子、计算机专业本科生的教材，也可作为相关专业人员的参考书。

    本书系统论述了香农信息论，以香农三个编码定理为中心，重点讲述了相关的基本概念、基本原理和基本方法。本书针对本科教学的特点，力求深入浅出，在保持一定理论深度的基础上尽可能地简化数学分析过程，以通俗、生动的语言强化物理概念的描述。为了便于教学和读者自学，部分章节配有习题。    本书可作为高等院校通信、电子、计算机专业本科生的教材，也可作为相关专业人员的参考书。