信息论导引

第一章 引论
1.1 信息论的起源和发展史
1.2 信息的定义
1.3 信息的特征和性质
1.3.1 信息的特征
1.3.2 信息的性质
1.4 现代信息技术的含义和基本内容
1.4.1 现代信息技术的含义
1.4.2 信息技术的基本内容
1.4.3 在通信领域中信息技术的基本内容
1.5 预备知识
1.5.1 概率论的基本知识
1.5.2 随机变量及其统计特征简介
习题一
第二章 信息论的基本概念
2.1 信源的分类
2.2 自信息量
2.2.1 自信息量
2.2.2 联合自信息量
2.2.3 条件自信息量
2.3 互信息量
2.3.1 互信息量
2.3.2 互信息量的性质
2.3.3 条件互信息量
2.4 平均自信息量——熵
2.4.1 熵的定义
2.4.2 条件熵
2.4.3 共熵
2.4.4 熵函数的性质
2.5 平均互信息量
2.5.1 平均互信息量的定义
2.5.2 平均互信息量的性质
2.5.3 数据处理定理
2.5.4 平均互信息量的物理意义
2.6 离散信源的熵
2.6.1 各种离散信源的熵
2.6.2 各种离散信源的时间熵
2.7 连续信源的熵
2.7.1 连续信源的熵
2.7.2 几种特殊连续信源的熵
2.7.3 连续随机变量的联合熵、条件熵以及平均互信息量
习题二
第三章 无失真信源编码
3.1 信源编码概述
3.1.1 信源最佳化
3.1.2 概率均匀化——最佳编码
3.1.3 编码器的描述
3.1.4 码的唯一可译性
3.2 消息的冗余度
3.2.1 相对熵
3.2.2 冗余度
3.2.3 内熵
3.3 定长编码定理和定长编码方法
3.3.1 定长无失真编码定理
3.3.2 定长编码的效率
3.4 变长编码定理
3.5 变长编码方法
3.5.1 霍夫曼编码
3.5.2 费诺编码
3.5.3 香农编码
3.6 一种实用的无失真信源编码——游程编码
3.6.1 游程编码的基本原理
3.6.2 MH码及其应用
习题三
第四章 信道
4.1 信道的分类
4.2 无扰离散信道
4.2.1 无扰离散信道上的信息传输速率
4.2.2 无扰离散信道上的信道容量
4.3 有扰离散信道
……
第五章 离散信源的限失真信源编码
第六章 信道编码
第七章 信息加密技术
参考文献