最优化理论与方法

第一章　引论
1.1　引言
1.2　数学基础
1.3　凸集和凸函数
1.4　无约束问题的最优性条件
1.5　最优化方法的结构
第二章　一维搜索
2.1　引言
2.2　精确一维搜索的收敛理论
2.3　0.618法和Fibonacci法
2.4　插值法
2.5　不精确一维搜索方法
第三章　牛顿法
3.1　最速下降法
3.2　牛顿法
3.3　修正牛顿法
3.4　有限差分牛顿法
3.5　负曲率方向法
3.6　信赖域方法
3.7　不精确牛顿法
3.8　附录：关于牛顿法收敛性的Kantorovich定理
第四章　共轭梯度法
4.1　共轭方向法
4.2　共轭梯度法
4.3　共轭梯度法的收敛性
第五章　拟牛顿法
5.1　拟牛顿法
5.2　Broyden族
5.3　Huang族
5.4　算法的不变性
5.5　拟牛顿法的局部收敛性
5.6　拟牛顿法的总体收敛性
5.7　自调比变尺度方法
5.8　稀疏拟牛顿法
第六章　非二次模型最优化方法
6.1　齐次函数模型的最优化方法
6.2　张量方法
6.3　锥模型与共线调比
第七章　非线性最小二乘问题
7.1　非线性最小二乘问题
7.2　Gauss-Newton法
7.3　Levenberg-Marquardt方法
7.4　Levenberg-Marquardt方法的More形式
7.5　拟牛顿法
第八章　约束优化最优性条件
8.1　约束优化问题
8.2　一阶最优性条件
8.3　二阶最优性条件
第九章　二次规划
9.1　二次规划问题
9.2　对偶性质
9.3　等式约束问题
9.4　积极集法
9.5　对偶方法
9.6　内点算法
第十章　罚函数法
10.1　罚函数
10.2　简单罚函数法
10.3　内点罚函数
10.4　乘子罚函数
10.5　光滑精确罚函数
10.6　非光滑精确罚函数
第十一章　可行方向法
11.1　可行点法
11.2　广义消去法
11.3　广义既约梯度法
11.4　投影梯度法
11.5　线性约束问题
第十二章　逐步二次规划法
12.1　Lagrange-Newton法
12.2　Wilson-Han-Powell方法
12.3　SQP步的超线性收敛性
12.4　Marotos效应
12.5　Watchdog技术
12.6　二阶校正步
12.7　光滑价值函数
12.8　既约Hesse阵方法
第十三章　信赖域法
13.1　算法的基本形式
13.2　线性约束问题的信赖域法
13.3　信赖域子问题
13.4　零空间方法
13.5　CDT子问题
13.6　Powell-Yuan方法
第十四章　非光滑优化
14.1　广义梯度
14.2　非光滑优化问题
14.3　次梯度方法
14.4　割平面法
14.5　捆集法
14.6　复合非光滑优化的基本性质-
14.7　信赖域法
参考文献