第1章 数据的量化和特征提取
1.1 机器学习概述
1.2 特征提取
1.3 向量距离计算
第2章 线性回归
2.1 线性回归的基本概念
2.2 损失函数和梯度下降法
2.3 训练集和测试集
2.4 多项式回归
2.5 线性回归的高级技巧
第3章 逻辑回归
3.1 逻辑回归的基本原理
3.2 交叉熵与KL距离
3.3 线性不可分及其解决方案
3.4 L1正则和L2正则
3.5 分类模型的评价标准
3.6 逻辑回归的特征提升技巧
3.7 深入理解损失函数和逻辑函数
第4章 因子分解模型
4.1 基本原理和特征交叉
4.2 因子分解模型和矩阵分解
第5章 经典分类模型
5.1 支持向量机
5.2 核方法
5.3 朴素贝叶斯
5.4 维数灾难
5.5 奥卡姆剃刀定律的应用
5.6 经验风险、期望风险和结构风险
第6章 无监督学习
6.1 K-Means聚类
6.2 主题模型
第7章 集成学习
7.1 决策树
7.2 随机森林
7.3 GBDT
第8章 深度神经网络
8.1 神经网络的基本原理
8.2 多分类与Softmax函数
8.3 梯度下降法和链式法则
8.4 度量学习
第9章 神经网络调优
9.1 激活函数选型
9.2 权重初始化
9.3 改进型梯度下降法
9.4 过拟合解决方案
第10章 自然语言处理
10.1 自然语言处理模型
10.2 one-hot编码和embedding技术
10.3 哈夫曼树和负采样
10.4 Word2vec的应用
10.5 fastText模型的原理及应用
第11章 卷积神经网络
11.1 卷积层和池化层
11.2 卷积神经网络在图像处理中的应用
11.3 卷积神经网络中的批标准化
11.4 TextCNN的原理及应用
第12章 深入卷积层
12.1 1×1卷积核
12.2 小卷积核
12.3 宽度卷积和Inception
12.4 Depthwise卷积和Pointwise卷积
12.5 特征通道加权卷积
第13章 循环神经网络和LSTM模型
13.1 循环神经网络模型详解
13.2 LSTM模型详解
13.3 LSTM模型的改进和应用
13.4 CTC算法
第14章 Attention模型和Transformer模型
14.1 Attention模型详解
14.2 Transformer模型原理
14.3 BERT模型及应用