内容简介目录 本书重点介绍了信息论与纠错编码的基础内容及应用,共分10章,内容包括:信息及信息的度量,离散信源及信源熵,离散信道及信道容量,信源编码定理和信道编码定理,平均失真测度和信息率失真函数,率失真编码定理,纠错编码代数基础,线性分组码,循环码和卷积码。本书内容深入浅出,概念清晰,对一些较难理解的概念,配有较多的例题。本书适合作为高等院校电子技术、信息工程、通信工程、雷达、计算机、自动化、仪器仪表等相关专业的本科教材,亦可供从事信息科学、系统工程等的科研人员参考。前言信息论是应用近代概率统计方法研究信息传输、交换、存储和处理的一门学科,也是源于通信实践发展起来的一门新兴应用学科。当前人类已步入信息社会,随着信息概念的不断发展,信息在科学技术上的重要性也早已超越了狭义的通信工程的范畴,受到越来越多的关注。在高等院校中,信息工程类专业是最为热门的专业之一,信息技术已经改变了很多传统电子类专业的知识结构。在这种形式下,许多高校都在相关专业开设了信息论方面的相关课程,作为本科生、研究生的必修或选修课。一方面这门课是电子类专业的核心课程,很多学校都把它作为必修课或必选课,但另一方面教材可选余地太小,一直有教师难教、学生难学的说法,希望能尽快出版面向本科生的适用教材。本着这种精神,本书力求在内容筛选及编排上以读者最易接受的方式介绍信息理论的知识。本书包括"信息论与纠错编码"的基本内容及应用。第1章为"信息论基础",介绍了信息论的基本概念,以及本书的研究对象,即各种信源和信道。第2~6章属信息论部分。这部分介绍了信息的度量,内容主要围绕香农三大定理展开,研究在不允许失真情况下信息传输率的极限值,以及给定信源并且允许一定失真条件下信息传输率的极限值,并研究在误码率小于给定值的条件下如何最有效地利用信道的传输能力。第8~10章属纠错编码部分,第7章讲述了纠错编码所必须的数学知识。纠错编码是后人沿着香农指明的可行方向为寻求有效而可靠的编译码方法而发展起来的,主要研究在有噪信道条件下各种可行的编码方案及实施技术。与现有的各种"信息论与编码"教材相比,本教材有如下特色。1.本书力图在编排上由浅入深,循序渐进,使读者能较容易地接受信息论与纠错编码方面的基本理论知识;2.对于部分具有结论性、指导性的定理,本教材省去了冗繁的定理证明,注重物理概念的阐述及对后人工作的指导意义。3.着重介绍了纠错编码部分的内容。教材第8、9和10章分别论述纠错编码中最基本的线性分组码、循环码和卷积码的编译码理论,并例举了几种常用的码,如汉明码、BCH码和卷积码,介绍了它们主要的编译码方法。4.对一些难以理解的概念,本书配有较多的例题,以帮助学生对抽象定理的理解。各章后面配有一些难易程度不等的思考题和习题,以供选用。本书全部内容约需60学时,不同专业可根据需要进行选择。本书第1、7章由陈荣伶编写,第2~6章由孙丽华编写,第8、9、10章由谢仲华编写,由孙丽华负责全书的策划、修改和统编。本书在编写过程中得到电子工业出版社的大力支持,王颖编辑做了大量的工作,在此一并表示衷心感谢!由于本书涉及的知识领域广泛,而且变化日新月异,加上时间和水平的限制,难免有差错和不足之处,敬请读者指正!孙丽华 第1章信息论基础1.1信息的概念1.2信息传输系统1.3离散信源及其数学模型1.3.1离散无记忆信源1.3.2离散无记忆的扩展信源1.3.3离散平稳有记忆信源1.3.4马尔可夫信源1.4离散信道及其数学模型1.4.1离散无记忆信道1.4.2离散无记忆的扩展信道本章小结思考题与习题第2章信息的度量2.1自信息量和互信息量2.1.1自信息量和条件自信息量2.1.2互信息量和条件互信息量2.2离散集的平均自信息量2.2.1信息熵2.2.2熵函数的性质2.3离散集的平均互信息量2.3.1平均互信息量2.3.2平均互信息量的性质2.3.3有关平均互信息量的两条定理2.4N维扩展信源的熵和平均互信息量2.4.1N维扩展信源的熵2.4.2N维扩展信源的平均互信息量2.4.3有关N维平均互信息量的两条定理本章小结思考题与习题第3章离散信源无失真编码3.1概述3.1.1码的分类 3.1.2平均码长的计算 3.1.3信息传输率3.2等长码及等长编码定理3.3变长码及变长编码定理3.3.1变长码3.3.2克拉夫特不等式3.3.3变长编码定理3.4变长码的编码方法3.4.1香农编码法3.4.2费诺编码法3.4.3霍夫曼编码法本章小结思考题与习题第4章率失真编码4.1失真测度与平均失真4.2信息率失真函数R(D)4.2.1率失真函数的定义4.2.2率失真函数的值域、定义域4.2.3率失真函数的性质4.3率失真函数的计算4.3.1两种特殊情况下的求解4.3.2R(D)的参数表示法4.4率失真信源编码定理本章小结思考题与习题第5章离散信道的信道容量5.1信道容量的定义5.2离散无记忆信道容量的计算5.2.1达到信道容量的充要条件5.2.2几类特殊信道5.3组合信道的容量5.3.1独立并行信道5.3.2和信道5.3.3串行信道本章小结思考题与习题第6章有噪信道编码6.1信道编码的基本概念6.2译码规则及错误概率6.3信道编码定理6.4费诺不等式及信道编码逆定理6.4.1费诺不等式6.4.2信道编码逆定理本章小结思考题与习题第7章纠错编码代数基础7.1群7.1.1群的定义7.1.2子群7.1.3群的陪集分解7.2环7.2.1环的定义7.2.2整数剩余类环7.2.3多项式剩余类环7.3域7.3.1域的定义7.3.2有限域7.3.3有限域的本原元7.3.4有限域的结构7.3.5有限域的共轭根组7.3.6有限域的综合举例本章小结思考题与习题第8章线性分组码8.1纠错编码的基本概念8.1.1信道纠错编码8.1.2差错控制系统模型及分类8.1.3纠错编码的分类8.1.4差错类型8.2线性分组码的编码8.2.1生成矩阵8.2.2校验矩阵8.2.3编码的实现8.3伴随式与译码8.3.1码的距离和重量8.3.2线性码的纠检错能力8.3.3陪集分解与伴随式8.3.4标准阵列与译码表8.4汉明码8.4.1汉明码的构造8.4.2汉明限与完备码本章小结思考题与习题第9章循环码9.1循环码的一般概念9.1.1循环码的定义9.1.2循环码的多项式描述9.1.3循环码的生成多项式9.2循环码的编码9.2.1利用生成多项式g(x)实现编码9.2.2除法电路9.2.3编码电路9.3循环码的译码9.3.1伴随式计算9.3.2循环码的译码9.3.3Meggit通用译码器9.4一些重要的循环码9.4.1循环汉明码9.4.2BCH码本章小结思考题与习题第10章卷积码10.1卷积码的基本概念10.1.1卷积码概述10.1.2卷积码的矩阵描述10.2卷积码的概率译码10.2.1状态图和网格图10.2.2最大似然译码10.2.3维特比译码算法本章小结思考题与习题参考文献