目录
第1章 走进TENSORFLOW\t1
1.1 TensorFlow介绍\t1
1.1.1 TensorFlow特性\t1
1.1.2 谁可以使用TensorFlow\t2
1.1.3 为什么Google要开源这个
神器\t3
1.2 TensorFlow的环境搭建\t4
1.2.1 安装环境介绍\t4
1.2.2 安装TensorFlow\t5
1.2.3 Cuda和CuDNN的安装\t7
1.2.4 Geany开发环境\t9
1.3 TensorFlow基本使用\t10
1.3.1 计算图\t10
1.3.2 构建图\t10
1.3.3 在一个会话中启动图\t11
1.3.4 交互式使用\t12
1.3.5 Fetch\t12
1.3.6 Feed\t13
1.4 变量\t13
1.5 TensorFlow的队列\t16
1.5.1 队列的创建\t16
1.5.2 线程同步与停止\t19
1.5.3 队列中数据的读取\t20
1.6 TensorBoard可视化\t23
1.6.1 在TensorBoard中查看
图结构\t24
1.6.2 数据变化趋势\t25
第2章 计算机视觉与深度学习\t28
2.1 计算机视觉\t28
2.1.1 人类视觉的启迪\t28
2.1.2 计算机视觉的难点和
人工神经网络\t29
2.1.3 深度学习\t30
2.1.4 前深度学习时代的
计算机视觉\t31
2.1.5 仿生学角度看深度学习\t31
2.1.6 应用深度学习解决计算机
视觉问题\t32
2.2 深度学习在视觉上的应用\t33
2.2.1 人脸识别\t33
2.2.2 图片问答问题\t33
2.2.3 物体检测问题\t34
2.2.4 物体跟踪\t36
2.3 计算机视觉的学习方式和
未来趋势\t36
2.4 机器学习\t37
2.4.1 机器学习发展的历程\t37
2.4.2 机器学习的步骤\t38
2.4.3 机器学习的分类\t38
2.4.4 机器学习的基本算法\t40
第3章 深度神经网络的基础\t42
3.1 生物神经元\t42
3.2 人工神经元\t43
3.2.1 人工神经元的数学模型\t43
3.2.2 人工神经网络\t44
3.2.3 激活函数\t45
3.2.4 神经元之间的连接形式\t46
3.2.5 人工神经网络的分类\t47
3.3 激活函数\t47
3.3.1 sigmoid激活函数\t47
3.3.2 tanh激活函数\t49
3.3.3 relu激活函数\t50
3.3.4 dropout激活函数\t53
3.4 softmax处理分类问题\t54
3.4.1 什么是softmax\t54
3.4.2 softmax原理\t54
3.5 损失函数\t56
3.5.1 均值平方差\t56
3.5.2 交叉熵\t56
3.5.3 自定义损失函数\t57
3.6 梯度下降法\t59
3.6.1 梯度下降法的作用与分类\t59
3.6.2 退化学习率\t61
3.7 优化函数\t62
3.7.1 随机梯度下降优化算法\t62
3.7.2 基于冲量优化算法\t63
3.7.3 Adadelta优化算法\t64
3.7.4 Adam优化算法\t65
3.8 拟合\t67
3.8.1 过拟合和欠拟合\t68
3.8.2 正则化的方法\t68
第4章 全连接神经网络\t72
4.1 前馈神经网络简介\t72
4.2 感知机\t74
4.2.1 感知机定义\t74
4.2.2 学习策略\t78
4.2.3 感知机学习算法\t78
4.3 全连接\t83
4.3.1 全连接结构\t83
4.3.2 前向传播算法\t84
4.4 线性模型的局限性\t87
4.5 多层网络解决异域运算\t91
4.6 全连接神经网络的经典实战\t93
第5章 卷积神经网络\t99
5.1 人类视觉原理\t99
5.2 卷积运算\t100
5.2.1 卷积运算\t101
5.2.2 卷积函数实现\t102
5.2.3 标注图像感兴趣的区域\t106
5.2.4 池化运算\t107
5.2.5 加强卷积特征提取\t110
5.3 反卷积、反池化操作\t111
5.3.1 反卷积操作\t111
5.3.2 反池化操作\t114
5.4 卷积神经网络的介绍\t117
5.4.1 卷积神经网络的一般框架\t117
5.4.2 卷积神经网络的训练\t119
5.4.3 利用卷积神经网络实现
数据集分类\t121
5.5 图像数据处理\t126
5.5.1 图像编码处理\t127
5.5.2 翻转图像\t128
5.5.3 图像色彩调整\t129
5.5.4 图像标准化处理\t132
5.5.5 调整图像大小\t133
5.5.6 图像的标注框\t137
第6章 高级卷积神经网络\t140
6.1 LeNet-5卷积神经网络\t140
6.1.1 LeNet-5模型\t140
6.1.2 TensorFlow 实现简单的
卷积神经网络\t142
6.2 AlexNet卷积神经网络\t145
6.2.1 AlexNet概述\t145
6.2.2 AlexNet结构\t148
6.2.3 AlexNet实现\t150
6.3 VGGNet卷积神经网络\t154
6.3.1 VGGNet模型结构\t155
6.3.2 VGGNet实现\t157
6.4 Inception v3卷积神经网络\t162
6.4.1 几种 Inception模型\t162
6.4.2 Inception v3原理及实现\t163
6.5 ResNet卷积神经网络\t175
6.5.1 ResNet模型结构\t175
6.5.2 ResNet实现\t177
第7章 循环神经网络\t184
7.1 RNN基础概念和结构\t184
7.2 RNN前后向传播算法\t186
7.2.1 RNN前向传播\t186
7.2.2 RNN后向传播\t187
7.3 循环神经网络的梯度\t191
7.4 LSTM单元\t193
7.4.1 LSTM单元基本结构\t193
7.4.2 LSTM的变体\t200
7.5 RNN的实现\t201
7.6 自然语言建模与词向量\t214
7.6.1 统计学语言模型\t214
7.6.2 独热编码\t217
7.6.3 词向量与Word2vec\t217
7.7 LSTM实现语音识别\t226
7.7.1 语音特征介绍\t226
7.7.2 算法流程\t227
7.7.3 TensorFlow实现语音识别\t228
第8章 对抗神经网络\t235
8.1 理论知识\t235
8.1.1 GAN网络结构\t235
8.1.2 GAN原理\t236
8.1.3 基本架构\t236
8.1.4 GAN 的特点及优缺点\t237
8.2 DCGAN网络\t243
8.3 InfoGAN网络\t248
8.4 WGAN-GP网络\t255
8.4.1 WGAN网络的理论\t255
8.4.2 WGAN网络的
改进WGAN-GP网络\t256
8.4.3 WGAN-GP网络的实现\t257
8.5 SRGAN网络\t260
8.5.1 超分辨率技术\t260
8.5.2 ESPCN网络实现数据的
超分辨率重建\t261
第9章 其他监督学习\t264
9.1 支持向量机\t264
9.1.1 支持向量机的含义\t264
9.1.2 线性不可分支持向量机与
核函数\t273
9.1.3 SMO原理及实现\t280
9.2 朴素贝叶斯\t286
9.2.1 统计学知识\t286
9.2.2 朴素贝叶斯的模型\t287
9.2.3 朴素贝叶斯的推断过程\t287
9.2.4 朴素贝叶斯的参数估计\t288
9.2.5 朴素贝叶斯算法过程\t289
9.2.6 朴素贝叶斯的实现\t290
9.3 决策树\t292
9.3.1 认识决策树\t293
9.3.2 ID3算法的介绍\t294
9.3.3 C4.5算法的介绍\t296
9.3.4 决策树的实现\t297
9.4 k近邻算法\t300
9.4.1 kNN算法三要素\t300
9.4.2 kd树实现原理\t301
9.4.3 kNN算法的优缺点\t302
9.4.4 kNN算法的实现\t303
第10章 非监督学习\t305
10.1 主成分分析\t305
10.1.1 PCA思想\t305
10.1.2 基于最小投影距离\t306
10.1.3 基于最大投影方差\t307
10.1.4 PCA算法流程\t308
10.1.5 PCA的优缺点\t308
10.1.6 PCA的实现\t309
10.2 k均值聚类\t312
10.2.1 距离测试\t312
10.2.2 k均值聚类原理\t317
10.2.3 传统k均值算法流程\t318
10.2.4 K-Means++聚类算法\t322
10.3 自组织映射神经网络\t324
10.3.1 自组织映射算法\t325
10.3.2 与k均值的比较\t325
10.4 受限玻尔兹曼机\t330
10.5 谱聚类\t336
10.5.1 谱聚类的基础知识\t336
10.5.2 谱聚类之切图聚类\t339
10.5.3 谱聚类算法的实现\t343
第11章 自动编码机\t345
11.1 自动编码机原理\t345
11.2 标准自动编码机\t346
11.3 稀疏自动编码机\t351
11.4 去噪自动编码机\t355
11.5 卷积自动编码机\t360
第12章 强化学习\t366
12.1 强化学习的概述\t366
12.2 强化学习的学习过程\t367
12.3 OpenAI Gym原理及应用\t369
12.4 Q learning原理及应用\t371
12.5 DQN原理及应用\t377
参考文献\t384