深度学习

第1章 绪论
1．1 引言
1．2 基本术语
1．3 监督学习算法
1．3．1 支持向量机
1．3．2 决策树
1．4 无监督学习算法
1．4．1 主成分分析
1．4．2 K-均值聚类
1．5 机器学习
1．6 深度学习的趋势
1．6．1 与日俱增的数据量
1．6．2 愈发庞大的计算资源
1．6．3 越来越高的性能以及解决实际问题的潜力
思考题
参考文献
第2章 TensorFlow和Keras简介
2．1 TensorFlow简介
2．1．1 概述
2．1．2 TensorFlow的使用
2．1．3 TensorFlow的可视化
2．2 Keras简介
2．2．1 Keras概述
2．2．2 Keras的使用
2．2．3 Keras的可视化
思考题
参考文献
第3章 简单神经网络
3．1 人脑是如何学习的
3．2 模仿人脑——神经元（感知器）
3．3 非线性神经元
3．4 神经网络架构
3．5 梯度下降
3．5．1 代价函数
3．5．2 梯度下降
3．6 反向传播
3．6．1 多层神经网络的数学表示
3．6．2 反向传播算法原理
3．7 实现简单神经网络
思考题
参考文献
第4章 图像类数据处理
4．1 二维卷积神经网络的基本原理
4．1．1 卷积神经网络的原理
4．1．2 参数共享
4．1．3 池化
4．1．4 分类原理
4．2 简单卷积神经网络实例
4．3 过度拟合
4．3．1 容量、过拟合与欠拟合的基本概念
4．3．2 数据集增强
4．3．3 L2正则化一
4．3．4 L1正则化
4．3．5 Dropout
4．3．6 提前终止
4．4 时间优化
4．4．1 交叉熵代价函数
4．4．2 批标准化
4．4．3 随机梯度下降
4．4．4 动量
4．4．5 Nesterov动量
4．5 综合二维卷积神经网络实例
思考题
参考文献
第5章 序列类数据处理
5．1 一维卷积神经网络
5．1．1 一维卷积神经网络的原理
5．1．2 一维卷积神经网络实例
5．2 循环神经网络
5．2．1 循环神经网络的基本原理
5．2．2 循环神经网络的输出
5．2．3 上下文依赖型数据处理
5．2．4 序列到序列的数据处理
5．3 递归神经网络
5．3．1 递归神经网络的基本原理
5．3．2 长期依赖性
5．4 长短期记忆LSTM网络
5．4．1 长短期记忆网络的基本原理
5．4．2 长短期记忆网络工程实例
思考题
参考文献
第6章 深度学习模型优化
6．1 参数初始化
6．2 超参数寻优算法
6．2．1 手动超参数寻优
6．2．2 超参数寻优算法
6．3 基于梯度的自适应学习算法
6．3．1 AdaGrad算法一
6．3．2 RMSProp算法
6．3．3 Adam算法
6．4 生成对抗神经网络及实例
6．5 迁移学习及实例
6．6 强化学习
6．7 模型优化的局限性
6．7．1 局部极小值
6．7．2 梯度消失、梯度爆炸与悬崖
6．7．3 鞍点
6．7．4 长期依赖
6．7．5 梯度的非精确性
思考题
参考文献
第7章 数据和模型的处理与调试
7．1 模型评价
7．2 数据预处理
7．3 基础模型的选择
7．4 模型调试
思考题
参考文献
第8章 现代深度学习模型概述
8．1 玻尔兹曼机
8．1．1 标准玻尔兹曼机
8．1．2 受限玻尔兹曼机
8．1．3 深层玻尔兹曼机
8．2 自编码器
8．2．1 标准自编码器
8．2．2 稀疏自编码器
8．2．3 降噪自编码器
8．3 深度信念网络及实例
8．4 残差神经网络及实例
8．5 胶囊神经网络及实例
思考题
参考文献
附录
附录A 基于深度学习的视频目标跟踪研究进展综述
附录B Q-Learning算法的参考代码