信息论与编码

第1章 绪论1.1 通信与信息的基本概念1.1.1 消息和信号1.1.2 信息1.2 信息论及信息科学1.2.1 信息科学的创立1.2.2 信息科学与信息产业的发展1.3 信息论的研究范畴1.3.1 香农信息论（狭义信息论）1.3.2 一般信息论1.3.3 广义信息论本章小结习题第2章　信源描述及信息的度量2.1 信源的数学模型及分类2.1.1 离散信源2.1.2 连续信源2.1.3 平稳信源2.1.4 自然语信源2.2 信息的度量2.2.1 度量信息的基本思路2.2.2 自信息量与不确定度的关系2.3 离散信源的信息熵2.3.1 信源的信息熵2.3.2 条件自信息量和条件熵2.4 互信息量2.4.1 互信息量2.4.2 条件互信息量2.4.3 平均互信息量2.4.4 疑义度和噪声熵2.5 数据处理中的信息变化2.5.1 n维随机变量的熵2.5.2 n维随机变量的信息传递2.5.3 数据处理中的信息变化2.6 离散平稳信源2.7 离散信源的熵和时间熵2.7.1 离散信源的熵2.7.2 离散信源的时间熵本章小结习题第3章　离散信源的信源编码3.1 信源的冗余度3.2 信源符号序列分组定理3.3 信源编码模型及最佳编码3.3.1 信源编码模型3.3.2 最佳编码3.4 变长码的信源编码3.4.1 唯一可译码与即时码3.4.2 Kraft不等式3.4.3 平均码长界定定理3.5 等长码的信源编码定理3.6 无失真信源编码3.6.1 香农第一定理3.6.2 香农编码3.6.3 费诺编码3.6.4 霍夫曼编码3.6.5 算术编码3.6.6 游程编码3.6.7 Lempel-Ziv编码3.7 信源编码的错误扩散本章小结习题第4章 离散信道的信道容量4.1 信道的分类及数学模型4.1.1 信道的分类4.1.2 离散信道的数学模型4.2 单符号离散信道的数学模型4.2.1 二进制对称信道4.2.2 二进制删除信道4.3 单符号离散信道的信道容量4.3.1 信息传输速率和信道容量4.3.2 几种特殊离散信道的信道容量4.3.3 独立并联信道的信道容量4.3.4 串联信道的信道容量4.4 多符号离散信道的信道容量4.4.1 多符号离散对称信道的信道容量4.4.2 离散无记忆扩展信道的信道容量本章小结习题第5章 有扰离散信道编码定理5.1 译码准则5.1.1 最小错误概率准则5.1.2 最大似然译码准则5.2 费诺不等式5.3 汉明距离5.3.1 错误概率与编码方法5.3.2 汉明距离5.4 有扰离散信道的信道编码定理本章小结习题第6章 连续信源和连续信道6.1 连续消息的信息度量6.1.1 连续信源的相对熵6.1.2 几种典型连续信源的相对熵6.1.3 连续消息的条件熵6.1.4 连续消息的平均互信息量6.2 最大相对熵定理6.2.1 相对熵的性质6.2.2 最大相对熵定理6.3 熵功率6.3.1 连续信源熵的变换6.3.2 熵功率6.3.3 熵功率不等式6.3.4 噪声6.4 香农信道容量公式6.4.1 连续信道的信道容量6.4.2 香农信道容量公式6.5 连续信源编码6.5.1 标量量化与理想接收机6.5.2 矢量量化编码6.5.3 预测编码本章小结习题第7章 信息率失真理论及其应用7.1 失真度和平均失真度7.1.1 失真度7.1.2 平均失真度7.2 信息率失真函数7.2.1 保真度准则及D0失真许可的试验信道7.2.2 信息率失真函数7.2.3 信息率失真函数的性质7.3 信息率失真函数的计算7.3.1 误码失真条件下离散信源的信息率失真函数7.3.2 离散信源的R(D)参量表示7.3.3 连续信源的信息率失真函数7.4 保真度准则下的信源编码定理7.5 信息价值本章小结习题第8章 网络信息理论基础8.1 多用户信息传输系统模型8.2 多址接入信道及其信道容量8.2.1 基本概念8.2.2 二进制接入信道8.2.3 N进制接入信道8.2.4 高斯加性多址信道8.2.5 广播信道的信道容量8.3 相关信源的基本理论8.3.1 离散无记忆相关信源的编码定理8.3.2 相关信源通过接入信道的传输定理8.3.3 相关信源的边信息与公信息本章小结习题第9章 差错控制基础9.1 差错控制的途径和基本方式9.1.1 插入冗余度9.1.2 差错随机化9.1.3 参量权衡9.2 纠错编码的基本概念9.2.1 纠错编码的分类9.2.2　纠错编码的基本概念9.3 纠错编码的检、纠错能力9.4 近世代数基础9.4.1 整数9.4.2 群9.4.3 环9.4.4 域9.4.5 多项式环和域9.4.6 GF(2)的扩域GF(2m)9.4.7 矢量空间本章小结习题第10章 线性分组码10.1 线性分组码的基本概念10.1.1 线性分组码的描述10.1.2 生成矩阵和校验矩阵10.1.3 系统码10.2 线性分组码的编译码10.2.1 线性分组码的编码10.2.2 线性分组码的译码10.3 线性分组码的纠、检错性能10.3.1 线性分组码的距离与重量的关系10.3.2 极大最小距离码（MDC）10.3.3 伴随式译码的性能10.4 汉明码和格雷码10.4.1 完备码10.4.2 汉明码10.4.3 格雷码10.5 循环码10.5.1 循环码的定义与描述10.5.2 循环码的生成矩阵和校验矩阵10.5.3 循环码的编码10.5.4 循环码的译码10.5.5 循环码的缩短与扩展10.6 BCH码10.6.1 BCH码的编码10.6.2 BCH码的译码10.7 R-S码本章小结习题第11章 卷积码11.1 基本概念11.2 卷积码的编码11.2.1 生成矩阵描述11.2.2 多项式描述11.2.3 状态图描述11.2.4 树图描述11.3 卷积码的译码11.3.1 网格图11.3.2 维特比译码11.3.3 序列译码11.4 卷积码的特性11.4.1 卷积码的码率11.4.2 卷积码的距离特性11.4.3 恶性卷积码及译码的错误扩展本章小结习题第12章 纠突发错误码12.1 纠突发错误码的基本概念12.2 纠突发错误循环码12.2.1 法尔码12.2.2 交织码12.2.3 伯顿码12.3 纠突发错误循环码的译码12.4 纠突发错误卷积码12.4.1 纠突发错误卷积码的基本概念12.4.2 卷积交织12.5 纠突发和随机错误码12.5.1 循环乘积码12.5.2 级联码12.5.3 Turbo码本章小结习题第13章 保密通信基础13.1 保密通信的技术体制及数学模型13.1.1 加密和解密过程的模型13.1.2 密码系统安全性13.1.3 常规密码13.2 信息保密技术的基础知识13.2.1 基本度量13.2.2 理想保密性13.2.3 单一性距离13.3 数据加密标准DES

　　本书系统阐述了经典信息论和编码的基本原理及应用，主要内容包括：绪论、信源描述及信息的度量、离散信源的信源编码、离散信道的信道容量、有扰离散信道的编码定理、连续信源和连续信道、信息率失真理论及其应用、网络信息理论基础、差错控制基础、线性分组码、卷积码、纠突发错误码、保密通信基础和信息论的应用等。本书语言描述通俗易懂，原理阐述深入浅出，逻辑推理严谨简洁，并配合丰富的应用实例，力图将经典理论的研究成果与现代通信的实际应用相结合。