信息理论与编码

第1章 概论1．1信息的概念及特征1．2 信息的分类1．3 信息论的研究目的与意义

第2章 信源与信息熵2．1 离散信源与信息熵 2．1．1 离散信源的数学模型与统计特征 2．1．2 自信息量和平均自信息量（信息熵）2．1．3 熵函数的基本性质和最大熵定理 2．1．4 联合熵与条件熵2．1．5 互信息2．2 离散序列信源2．2．1 离散序列信源的数学模型2．2．2 离散序列信源的信息熵2．2．3 马尔可夫信源2．2．4 信源相关性与冗余度2．3 连续信源2．3．1 连续信源的熵2．3．2 连续信源的最大熵及熵功率

第3章 信道与信道容量3．1 信道的分类与数学模型3．1．1 信道的分类3．1．2 信道的数学模型3．1．3 信道容量的定义3．2 信道容量的代价函数和信道冗余度3．2．1 信道容量的代价函数3．2．2 信道冗余度3．3 离散信道及其容量计算3．3．1 单符号离散信道的信道容量3．3．2 多符号离散信道的信道容量3．4 连续信道及其容量3．4．1 时间离散信道的信道容量3．4．2 时间连续信道的信道容量3．4．3 限频率、限时、限功率的AWGN信道容量3．5 多用户信道3．5．1 多址接入信道3．5．2 广播信道

第4章 信息率失真函数4．1 失真测度4．1．1 失真函数与平均失真度4．1．2 信息率失真函数的定义4．2 离散信源的信息率失真函数 4．2．1 信息率失真函数的性质 4．2．2 信息率失真函数的计算 4．3 连续信源的信息率失真函数 4．3．1 信息率失真函数的定义与性质4．3．2 信息率失真函数的计算4．4 信道容量与信息率失真函数的区别

第5章 香农三大定理5．1 香农第一定理5．2 香农第二定理5．3 香农第三定理

第6章 失真信源编码6．1 信源编码概述6．1．1 信源编码的一般模型6．1．2 信源产生冗余的原因6．2 失真信源编码概述6．2．1 编码的有关概念6．2．2 几种简单的信源编码器6．2．3 几种常见码6．3 等长码与等长信源编码定理6．3．1 失真编码条件6．3．2 信源序列渐近均分性6．3．3 信源序列分组定理6．3．4 渐近均分特性6．3．5 等长编码定理6．4 不等长编码6．4．1 码树6．4．2 异前置码6．4．3 克拉夫特-麦克米伦不等式6．4．4 不等长编码定理6．5 最佳不等长编码（霍夫曼编码）6．5．1 二进制霍夫曼编码6．5．2 多进制霍夫曼编码6．5．3 马尔可夫信源编码6．5．4 常见的几种编码方法

第7章 限失真信源编码7．1 限失真信源编码概述7．2 限失真信源编码逆定理7．3 保真度准则下的码率压缩标准7．3．1 语音压缩编码标准7．3．2 图像压缩编码标准7．4 几种常用的有损压缩编码技术7．4．1 差分脉冲编码调制（DPCM）7．4．2 预测编码7．4．3 正交变换编码7．4．4 小波变换编码

第8章 信道编码8．1 信道编码的基本概念8．1．1 差错类型和纠检错方式8．1．2 检错和纠错能力的判断8．1．3 信道编码的分类8．1．4 常用的简单检错纠错码8．2 译码错误概率8．2．1 译码规则的概念8．2．2 错误概率与译码规则8．2．3 三种译码准则8．2．4 错误概率与编码方法8．3 线性分组码8．3．1 线性分组码的基本概念 8．3．2 校验矩阵和生成矩阵 8．3．3 汉明码 8．3．4 线性分组码的译码 8．4 循环码8．4．1 循环码的定义和多项式描述 8．4．2 码多项式的运算 8．4．3 循环码的生成多项式和生成矩阵8．4．4 循环码的校验矩阵 8．4．5 循环码的编码和译码方法8．5 卷积码8．5．1 卷积码的概念 8．5．2 卷积码的编码 8．5．3 卷积码的图形表示 8．5．4 卷积码的译码参考文献

信息理论与编码技术是研究现代信息传输和信息处理的理论基础，对现代通信系统和通信网络的技术发展起到了重要的作用。《信息理论与编码》以香农信息论为基础，分两大部分共8章向读者系统介绍信息理论、编码理论及信息处理的基本思想：第一部分主要介绍了香农信息论的基本概念和性质，包括信息量的定义、信息熵、信息率失真函数和信道容量，力求从基本概念上帮助读者理解和掌握信息理论的基本内容；第二部分以三个基本概念相对应的香农三大编码定理为基础，从满足信息与通信系统中信息处理的有效性、可靠性和安全性三项性能指标为出发点，详细介绍了失真信源编码、限失真信源编码和信道编码的基本原理与方法。　　《信息理论与编码》内容简单，结构清晰明了，以通俗语言叙述代替高深繁琐的数学推导，强调信息理论与编码方法在知识上的连贯性，特别注重理论知识的实际应用，以满足工科类本科专业学生的学习要求。　　《信息理论与编码》可作为普通高等院校电气信息类电子信息工程专业和通信专业的教材或教学参考书。