绪论 1
1 回归模型 6
1.1 回归算法分类 9
1.1.1 一般线性回归 9
1.1.2 广义线性回归 10
1.1.3 非线性回归 14
1.2 回归模型的度量指标 14
1.3 样本权重系数的理解 17
2 线性回归模型 18
2.1 普通最小二乘法 19
2.2 岭回归(L2正则化回归) 24
2.2.1 岭回归评估器 24
2.2.2 岭迹曲线 29
2.2.3 交叉验证岭回归评估器 31
2.3 Lasso回归(L1正则化回归) 36
2.3.1 Lasso回归评估器 37
2.3.2 Lasso路径 42
2.3.3 交叉验证Lasso回归评估器 44
2.3.4 多任务Lasso回归 50
2.3.5 最小角Lasso回归 61
2.4 弹性网络回归 71
2.4.1 弹性网络回归评估器 71
2.4.2 交叉验证弹性网络回归评估器 76
2.4.3 多任务弹性网络回归评估器 81
2.4.4 交叉验证多任务弹性网络回归评估器 84
2.5 正交匹配追踪回归 86
2.6 贝叶斯线性回归 92
2.7 广义线性回归 96
2.8 随机梯度下降回归 100
2.9 被动攻击回归 108
2.10 鲁棒回归 114
2.10.1 随机抽样一致性回归 114
2.10.2 泰尔-森回归 119
2.10.3 胡贝尔回归 123
2.11 多项式回归 127
3 非线性回归模型 132
3.1 支持向量机回归 133
3.2 核岭回归 145
3.3 最近邻回归 147
3.3.1 算法简介 149
3.3.2 距离度量指标 151
3.3.3 最近邻回归评估器 154
3.4 高斯过程回归 159
3.5 决策树 167
3.5.1 决策树模型算法简介 168
3.5.2 决策树回归评估器 185
3.6 神经网络模型 191
3.7 保序回归 199
4 分类模型 203
4.1 广义线性回归分类与非线性分类模型 204
4.2 分类模型的度量指标 209
5 线性分类模型 210
5.1 岭分类 211
5.2 逻辑回归分类 214
5.3 随机梯度下降分类 219
5.4 感知机 222
5.5 被动攻击分类 226
6 非线性分类模型 231
6.1 支持向量机分类 232
6.1.1 支持向量分类评估器SVC 232
6.1.2 支持向量分类评估器NuSVC 234
6.1.3 支持向量分类评估器LinearSVC 234
6.2 最近邻分类 237
6.2.1 K最近邻分类评估器KNeighborsClassifier 237
6.2.2 径向基最近邻分类评估器 240
6.3 高斯过程分类 241
6.4 朴素贝叶斯模型 244
6.4.1 朴素贝叶斯算法 246
6.4.2 朴素贝叶斯分类 250
6.5 决策树分类 255
6.6 神经网络分类 259
7 无监督学习及模型 263
7.1 聚类 264
7.1.1 聚类算法简介 267
7.1.2 聚类模型 270
7.2 双聚类 282
7.2.1 谱联合聚类 283
7.2.2 谱双聚类 286
8 半监督学习及模型 287
8.1 标签传播算法 289
8.2 标签蔓延算法 291
8.3 自训练分类器 292