信息论与编码理论

第1章 引论

1.1 通信系统模型

1.2 Shannon信息论的中心问题

1.3 Shannon信息论的局限性

1.4 信息的广义性

第2章 信息量和熵

2.1 离散变量的非平均信息量

2.2 离散集的平均自信息量——熵

2.3 熵的唯一性定理

2.4 离散集的平均互信息量

2.5 连续随机变量的互信息和微分熵

2.6 凸函数与互信息的凸性

2.7 随机过程的信息量和熵

小结

习题

第3章 信源编码——离散信源无失真编码

3.1 信源及其分类

3.2 离散无记忆信源的等长编码

3.3 离散无记忆信源的不等长编码

3.4 最佳不等长编码

3.5 平稳源编码

3.6 马尔可夫源

小结

习题

第4章 信道及其容量

4.1 信道分类

4.2 离散无记忆信道

4.3 离散无记忆信道容量的迭代算法

4.4 离散有记忆信道

4.5 信道的组合

4.6 时间离散的无记忆连续信道

4.7 波形信道

小结

习题

第5章 信道编码定理

5.1 信道编码和译码

5.2 Fano不等式和信道编码逆定理

5.3 联合典型序列及信道编码定理

5.4 错误概率上限

5.5 等能量正交编码信号

小结

习题

第6章 线性分组码

第7章 卷积码

第8章 接近Shannon极限的编码

第9章 信源编码——无记忆信源的有失真编码

第10章 多用户信息论

参考文献

本书是普通高等教育“十一五”国家级规划教材。信息论与编码理论是研究信息传输和信息处理的基础理论。信息论对实际通信系统的设计已产生了深刻的影响，通信工程师在信息论方面的理论基础对他们事业的发展有重要的作用。这本教材总结了西安电子科技大学自1960年创办信息沦专业以来为通信工程学院各专业和其他工程专业开设信息论和编码理论课样的经验，特别是总结了改革开放以来的二十几年中为本科生和研究生开设此课的经验。书中较详细地讨论了信息论的基木理沦，对信息论中新发展的若干重要课题（如率失真理论、多用户信息论、算术编码、Lz编码、Turbo码和LDPC码等）都做了专题讨论，旧时，还涉及了信息论和编码理论这一学科的近况。这对于需要获得信息论基本知识的有关专业的学生和在这些领域从事研究、开发工作的工程技术人员都将是有益的。 本书可作为有关专业高年级本科生和研究生的教材。在给高年级本科生讲授时，可以只讲一些基本内容，书中标有*号的章节主要供研究生阅读，各章后面都附有一些难易程度不等的习题，可根据需要选用。书末附有较详尽的参考文献，可供阅读时参考。【作者简介】王育民，1936年2月生于北京，1959年7月毕业于解放军西安军事电信工程学院，1979年一1981年赴美国夏威夷大学电机工程系做访问学者，研究信息论和编码理论。现为西安电子科技大学教授、博士生导师，中山大学兼职教授、兼职博士生导师，长期从事通信、信息论、编码、密码和信息安全的教学和科研工作，曾任西安电子科技大学校学报编委会主任、信息论教研室主任等职。现为中国电子学会和中国通信学会会士、中国密码学会(筹)理事、中国电子学会信息论学会委员、中国自然基金研究会会员、IEEE高级会员。曾任全国高等学校通信和信息工程专业教学指导委员会主任(1996—2000)，陕西电子学会第6届副理事长，学术委员会主任。 合写著作有《伪随机序列及其应用》、《信息与编码理论》、《保密学——基础与应用》、《通信网的安全——理论与技术》、《电子商务技术与应用》等。其中王育民教授担任主编的《通信网的安全——理论与技术》获得2002年全国普通高校优秀教材一等奖。在国内外学术刊物和会议上发表论文200余篇。