细说机器学习：从理论到实践

第1篇  基础知识

第1章  人工智能和PyTorch2

1.1  人工智能和深度学习2

1.1.1  人工智能2

1.1.2  深度学习3

1.2  深度学习框架5

1.3  PyTorch7

1.3.1  PyTorch简介7

1.3.2  PyTorch的应用领域9

1.3.3  PyTorch的应用前景10

1.4  小结12

第2章  开发环境13

2.1  PyTorch的安装13

2.2  NumPy16

2.2.1  NumPy的安装与查看17

2.2.2  NumPy对象17

2.2.3  数组21

2.2.4  数学计算26

2.3  Matplotlib32

2.3.1  Matplotlib的安装和简介33

2.3.2  Matplotlib Figure图形对象35

2.4  Scikit-Learn47

2.5  小结48

第3章  PyTorch入门49

3.1  PyTorch的模块49

3.1.1  主要模块49

3.1.2  辅助模块53

3.2  张量54

3.2.1  张量的数据类型55

3.2.2  创建张量56

3.2.3  张量存储61

3.2.4  维度操作63

3.2.5  索引和切片65

3.2.6  张量运算67

3.3  torch.nn模块76

3.3.1  卷积层76

3.3.2  池化层80

3.3.3  激活层87

3.3.4  全连接层91

3.4  自动求导92

3.5  小结95

第4章  卷积网络96

4.1  卷积网络的原理96

4.1.1  卷积运算96

4.1.2  卷积网络与深度学习98

4.2  NumPy建立神经网络99

4.3  PyTorch建立神经网络101

4.3.1  建立两层神经网络101

4.3.2  神经网络参数更新102

4.3.3  自定义PyTorch的nn模块103

4.3.4  权重共享105

4.4  全连接网络107

4.5  小结111

第5章  经典神经网络112

5.1  VGGNet112

5.1.1  VGGNet的结构112

5.1.2  实现过程114

5.1.3  VGGNet的特点115

5.1.4  查看PyTorch网络结构116

5.2  ResNet118

5.2.1  ResNet的结构118

5.2.2  残差模块的实现120

5.2.3  ResNet的实现122

5.2.4  ResNet要解决的问题126

5.3  XceptionNet128

5.3.1  XceptionNet的结构128

5.3.2  XceptionNet的实现131

5.4  小结135

第6章  模型的保存和调用136

6.1  字典状态（state_dict）136

6.2  保存和加载模型138

6.2.1  使用ate_dict加载模型138

6.2.2  保存和加载完整模型139

6.2.3  保存和加载Checkpoint用于推理、继续训练139

6.3  一个文件保存多个模型140

6.4  通过设备保存和加载模型141

6.5  小结143

第7章  网络可视化144

7.1  HiddenLayer可视化144

7.2  PyTorchViz可视化146

7.3  TensorboardX可视化149

7.3.1  简介和安装149

7.3.2  使用TensorboardX150

7.3.3  添加数字151

7.3.4  添加图片152

7.3.5  添加直方图153

7.3.6  添加嵌入向量154

7.4  小结156

第8章  数据加载和预处理157

8.1  加载PyTorch库数据集157

8.2  加载自定义数据集159

8.2.1  下载并查看数据集159

8.2.2  定义数据集类161

8.3  预处理164

8.4  小结168

第9章  数据增强169

9.1  数据增强的概念169

9.1.1  常见的数据增强方法170

9.1.2  常用的数据增强库171

9.2  数据增强的实现172

9.2.1  中心裁剪173

9.2.2  随机裁剪174

9.2.3  缩放175

9.2.4  水平翻转176

9.2.5  垂直翻转177

9.2.6  随机角度旋转178

9.2.7  色度、亮度、饱和度、对比度的变化179

9.2.8  随机灰度化180

9.2.9  将图形加上padding181

9.2.10  指定区域擦除182

9.2.11  伽马变换183

9.3  小结184

第2篇  高级应用

第10章  图像分类186

10.1  CIFAR10数据分类186

10.1.1  定义网络训练数据187

10.1.2  验证训练结果192

10.2  数据集划分193

10.3  猫狗分类实战195

10.3.1  猫狗数据预处理195

10.3.2  建立网络猫狗分类196

10.4  小结199

第11章  迁移学习200

11.1  定义和方法200

11.2  蚂蚁和蜜蜂分类实战202

11.2.1  加载数据202

11.2.2  定义训练方法204

11.2.3  可视化预测结果205

11.2.4  迁移学习方法一：微调网络206

11.2.5  迁移学习方法二：特征提取器208

11.3  小结209

第12章  人脸检测和识别210

12.1  人脸检测210

12.1.1  定义和研究现状210

12.1.2  经典算法213

12.1.3  应用领域216

12.2  人脸识别217

12.2.1  定义和研究现状217

12.2.2  经典算法220

12.2.3  应用领域221

12.3  人脸检测与识别实战222

12.3.1  Dlib人脸检测222

12.3.2  基于MTCNN的人脸识别225

12.4  小结227

第13章  生成对抗网络228

13.1  生成对抗网络简介228

13.2  数学模型230

13.3  生成手写体数字图片实战233

13.3.1  基本网络结构233

13.3.2  准备数据234

13.3.3  定义网络和训练235

13.3.4  生成结果分析237

13.4  生成人像图片实战238

13.4.1  DCGAN简介239

13.4.2  数据准备239

13.4.3  生成对抗网络的实现241

13.5  小结250

第14章  目标检测251

14.1  目标检测概述251

14.1.1  传统目标检测算法的研究现状252

14.1.2  深度学习目标检测算法的研究现状252

14.1.3  应用领域253

14.2  检测算法模型253

14.2.1  传统的目标检测模型253

14.2.2  基于深度学习的目标检测模型255

14.3  目标检测的基本概念259

14.3.1  IoU259

14.3.2  NMS261

14.4  Faster R-CNN目标检测264

14.4.1  网络原理265

14.4.2  实战269

14.5  小结273

第15章  图像风格迁移274

15.1  风格迁移概述274

15.2  固定风格固定内容的迁移277

15.2.1  固定风格固定内容迁移的原理277

15.2.2  PyTorch实现固定风格迁移280

15.3  快速风格迁移288

15.3.1  快速迁移模型的原理288

15.3.2  PyTorch实现快速风格迁移290

15.4  小结297

第16章  ViT298

16.1  ViT详解298

16.1.1  Transformer模型中的Attention注意力机制298

16.1.2  视觉Transformer模型详解302

16.2  ViT图像分类实战305

16.2.1  数据准备305

16.2.2  定义ViT模型306

16.2.3  定义工具函数311

16.2.4  定义训练过程314

16.2.5  运行结果317

16.3  小结318

参考文献319