高斯过程机器学习及其工程应用

目录
前言
第1章 绪论 1
1.1 研究背景 1
1.2 机器学习研究现状 2
1.2.1 机器学习发展历程 2
1.2.2 典型机器学习方法研究 3
1.3 本书内容安排 5
参考文献 6
第2章 高斯过程回归 10
2.1 引言 10
2.2 基础理论知识 10
2.2.1 概率统计基础知识 10
2.2.2 随机过程 13
2.2.3 贝叶斯定理 15
2.2.4 *大似然估计 15
2.2.5 贝叶斯估计 16
2.2.6 核函数方法 18
2.3 回归分析的基本理论 20
2.3.1 回归分析模型 20
2.3.2 模型的评估策略 21
2.3.3 风险*小化原则 22
2.3.4 模型复杂度影响 23
2.3.5 模型选择方法 25
2.3.6 统计决策理论 26
2.4 常用线性回归分析方法 27
2.4.1 线性回归模型 27
2.4.2 *小二乘回归 28
2.4.3 *大后验(MAP) 回归 30
2.4.4 贝叶斯线性回归 31
2.4.5 小结 36
2.5 高斯过程回归的基本理论 36
2.5.1 基于权重空间观点的原理解释 37
2.5.2 基于函数空间观点的原理解释 40
2.5.3 *优超参数的自适应获取 45
2.5.4 高斯过程回归计算复杂度 47
2.5.5 主要特性分析 48
2.6 高斯过程回归的协方差函数 50
2.6.1 常用的协方差函数 50
2.6.2 不同协方差函数回归特性比较 52
2.7 高斯过程回归的算法实现 54
2.7.1 算法实现步骤 54
2.7.2 算法程序 55
2.7.3 算例分析 55
2.8 高斯过程与人工神经网络？支持向量机的关系 57
2.9 高斯过程回归的性能测试 58
2.9.1 算例1 58
2.9.2 算例2 64
2.9.3 算例3 65
2.10 本章小结 66
参考文献 67
第3章 高斯过程分类 69
3.1 引言 69
3.2 分类问题的基本理论 69
3.2.1 分类问题概述 69
3.2.2 分类问题的不同策略 70
3.3 高斯过程分类的基本理论 73
3.3.1 GPC 的基本原理 73
3.3.2 Laplace 近似方法 76
3.3.3 Expectation Propagation (EP) 近似方法 78
3.3.4 两种近似方法比较 81
3.4 算法实现 82
3.5 性能测试 83
参考文献 88
第4章 基于高斯过程回归的边坡位移时间序列预测 89
4.1 引言 89
4.2 基于高斯过程回归的时间序列预测方法 90
4.2.1 方法的实现步骤 90
4.2.2 预测结果的评价指标 91
4.2.3 方法验证 93
4.3 边坡实测位移时间序列的高斯过程回归预测 99
4.3.1 三峡永久船闸边坡位移时间序列预测 99
4.3.2 卧龙寺新滑坡位移时间序列预测 103
4.3.3 龙滩进水口边坡位移时间序列预测 107
4.4 基于高斯过程回归的边坡位移时间序列预测的不确定性分析 109
4.4.1 时间序列预测值的不确定性分析 109
4.4.2 工程实例 111
4.5 本章小结 119
参考文献 119
第5章 基于高斯过程的地下工程围岩非线性行为预测与识别 122
5.1 引言 122
5.2 地下工程初始地应力预测 123
5.2.1 地下工程地应力预测的GPR 模型 123
5.2.2 工程实例分析 124
5.3 地下工程围岩非线性变形时间序列预测 126
5.3.1 围岩变形时间序列预测的GPR 模型 126
5.3.2 工程实例分析 127
5.4 地下工程围岩光面爆破效果预测 131
5.4.1 隧道施工光面爆破效果预测的GPR 模型 132
5.4.2 工程实例分析 132
5.5 地下工程岩爆灾害等级识别 134
5.5.1 岩爆等级识别的GPC 模型 135
5.5.2 工程实例分析 136
5.6 地下工程围岩分类识别 141
5.6.1 隧洞围岩分类的GPC 模型 141
5.6.2 工程实例分析 142
5.7 地下工程围岩稳定性识别 144
5.7.1 地下工程围岩稳定性识别的GPC 模型 145
5.7.2 工程实例分析 145
5.8 本章小结 147
参考文献 147
第6章 高斯过程在水利工程中的应用 150
6.1 引言 150
6.2 边坡稳定性快速估计 150
6.2.1 边坡安全系数估计 151
6.2.2 边坡稳定状态识别 154
6.3 水库水温分布结构识别 157
6.4 地下水位预测 160
6.5 年径流预测 163
6.6 溢流坝挑流冲刷深度估计 165
6.7 本章小结 168
参考文献 168
第7章 工程结构可靠度分析的高斯过程动态响应面法 170
7.1 结构可靠度分析简介 170
7.1.1 结构可靠度的基本概念 170
7.1.2 结构可靠度分析方法综述 172
7.1.3 当前复杂工程结构可靠度分析方法存在的主要问题 175
7.2 基于高斯过程回归动态响应面的一次二阶矩法 176
7.2.1 一次二阶矩法 176
7.2.2 GPR-basedFORM 法 179
7.2.3 数学算例 181
7.2.4 结构算例 186
7.2.5 参数敏感性分析 193
7.2.6 小结 195
7.3 基于高斯过程回归动态响应面的二次二阶矩法 195
7.3.1 二次二阶矩法 195
7.3.2 GPR-basedSORM 法 196
7.3.3 数学算例 197
7.3.4 结构算例 202
7.3.5 小结 207
7.4 基于高斯过程回归动态响应面的重要抽样方法 207
7.4.1 重要抽样法 207
7.4.2 GPR-basedISM 法 208
7.4.3 数学算例 208
7.4.4 结构算例 212
7.4.5 方法的参数敏感性分析 218
7.4.6 小结 219
7.5 基于高斯过程回归动态响应面的蒙特卡罗模拟法 219
7.5.1 蒙特卡罗模拟法 220
7.5.2 基本思路 220
7.5.3 关键技术 221
7.5.4 实现步骤 223
7.5.5 数学算例 224
7.5.6 结构算例 230
7.5.7 小结 231
7.6 基于高斯过程回归动态响应面的粒子群优化法 231
7.6.1 基本思路 232
7.6.2 关键技术 233
7.6.3 实现步骤 234
7.6.4 数学算例 235
7.6.5 结构算例 239
7.6.6 小结 239
参考文献 240
第8章 粒子群-高斯过程协同优化算法及其在工程结构优化设计中的应用 243
8.1 引言 243
8.2 高计算代价结构优化设计问题的求解策略 244
8.3 粒子群优化算法 246
8.3.1 基本原理 246
8.3.2 实现步骤 248
8.3.3 性能测试 248
8.4 牛顿法 250
8.4.1 基本原理 250
8.4.2 实现步骤 251
8.4.3 简单算例 251
8.5 粒子群-高斯过程协同优化算法 252
8.5.1 基本原理 252
8.5.2 实现步骤 254
8.5.3 性能测试 256
8.6 结构优化设计的粒子群-高斯过程协同优化方法 259
8.6.1 结构优化设计的数学模型 259
8.6.2 PSO-GPR-FEM 法 261
8.7 结构优化设计实例 262
8.7.1 平面10 杆桁架结构优化 262
8.7.2 空间25 杆桁架结构优化 264
8.7.3 地震作用下钢筋混凝土框架结构优化设计 266
8.8 本章小结 270
参考文献 270
附录A 273
A.1 函数和集合的凸性质 273
A.2 多维高斯分布相关性质 273
A.3 实对称矩阵的特征分解 274
A.4 多维高斯分布的样本函数曲线 274
A.5 矩阵求导 275
A.6 矩阵求逆 276