信息论基础

1 绪论
  1.1 信息、信息科学和信息论
  1.2 信息论研究的对象、目的和内容
2 随机变量的信息度量
  2.1 自（互）信息和条件自（互）信息
  2.2 离散随机变量的平均自信息（熵）
  2.3 离散随机变量的平均互信息
  2.4 离散随机变量熵和互信息的凸性
  2.5 连续随机变量的互信息和微发熵
  习题2
3 离散信源及其信息度量
  3.1 信源的数学模型及分类
  3.2 离散无记忆信源的扩展信源
  3.3 离散平稳有记忆信源
  3.4 马尔可夫信源
  3.5 信源的相关性和剩余度
  习题3
4 离散信源的无失真编码
  4.1 信源编码的概念
  4.2 离散无记忆信源的渐近等同分割性和等长编码定理
  4.3 离散无记忆信源的不等长编码定理
  4.4 离散无记忆信源的不等长编码方法
  4.5 离散平衡信源和马尔可夫信源的编码定理
  习题4
5 信道及信道容量
  5.1 信道的数学模型及分类
  5.2 离散无记忆信道及其容量
  5.3 离散无记忆信道容量的计算方法
  5.4 信道的组合
  5.5 达到信道容量时输入输出字母概率分布的惟一性
  5.6 连续信道及其容量
  习题5
6 有噪信道编码
  6.1 错误概率和译码规则
  6.2 错误概率与编码方法
  6.3 有噪信道编码定理
  习题6
7 信息率失真函数和限失真信源编码
  7.1 离散无记忆信源的信息率失真函数
  7.2 离散无记忆信源信息率失真函数的计算
  7.3 连续信源的信息率失真函数
  7.4 限失真信源编码定理
  习题7
参考文献