数据智能研究前沿

1 深度生成模型

1.1 引言

1.2 模型定义

1.2.1 生成模型基本概念

1.2.2 基于层次化贝叶斯的建模

1.2.3 基于深度神经网络的建模

1.3 学习方法

1.3.1 最大似然估计

1.3.2 对抗式生成网络

1.3.3 矩匹配深度生成模型

1.4 “珠算”概率编程库

1.4.1 模型构建

1.4.2 推断和学习算法

1.5 典型应用

1.5.1 生成高质量的图片、视频、音频

1.5.2 半监督学习

1.5.3 风格迁移

1.5.4 强化学习

1.6 总结与展望

参考文献

2 生成式对抗网络

2.1 引言

2.2 生成式对抗网络概况

2.2.1 GAN提出的背景

2.2.2 GAN的基本概念

2.2.3 GAN的优势

2.2.4 GAN面临的挑战

2.2.5 小结

2.3 GAN的网络结构

2.3.1 DOCN

2.3.2 OGAN

2.3.3 InfoCAN

2.3.4 其他网络结构

2.4 GAN的损失函数

2.4.1 LSGAN

2.4.2 WGAN

2.4.3 WGAN-GP

2.4.4 EBGAN

2.4.5 BEGAN

2.4.6 RGAN

2.5 GAN的正则化方法

2.5.1 批归一化

2.5.2 权值归一化

2.5.3 谱归一化

2.5.4 正则化方法比较

2.6 GAN的训练与评价

2.6.1 训练技巧

2.6.2 优化算法

2.6.3 评价指标

2.7 GAN的应用

2.7.1 计算机视觉

2.7.2 自然语言处理

2.7.3 智能语音

2.7.4 其他领域

2.8 总结与展望

参考文献

3 模型驱动深度学习

3.1 模型驱动深度学习概述

3.2 优化模型驱动的深度学习

3.2.1 稀疏编码优化深度网络

3.2.2 ADMM深度网络及其在压缩传感成像中的应用

3.3 统计模型驱动的深度学习

3.3.1 MRF统计分布参数估计的深度学习方法

3.3.2 条件随机场模型驱动的深度学习

3.3.3 小结

3.4 其他领域模型驱动的深度学习方法

3.5 总结与展望

参考文献

4 自步一课程学习

4.1 课程学习

4.2 自步学习

4.3 自步正则

4.4 自步一课程学习

4.5 用武之地

4.6 从强监督到弱监督

4.6.1 零样本学习

4.6.2 弱监督学习——多示例学习

4.6.3 半监督学习——自步协同学习

4.7 自步一课程学习理论

4.7.1 稳健性理论

4.7.2 收敛性理论

4.7.3 凹共轭理论

4.8 元学习方法

4.9 总结与展望

参考文献

5 强化学习

5.1 强化学习简介

5.1.1 强化学习模型

5.1.2 马尔可夫决策过程

5.1.3 学习最优策略：无模型方法

5.1.4 通过学习模型来计算最优策略

5.2 深度强化学习

5.2.1 基于值函数的深度强化学习

5.2.2 基于策略梯度的深度强化学习

5.2.3 基于行动者一评论家的深度强化学习

5.3 迁移强化学习

5.3.1 迁移强化学习的定义

5.3.2 基于样例迁移的迁移强化学习

5.3.3 基于表示迁移的迁移强化学习

5.3.4 基于参数迁移的迁移强化学习

5.3.5 基于关系迁移的迁移强化学习

5.3.6 迁移强化学习的评估

5.4 分层强化学习

5.4.1 基于选项的分层强化学习

5.4.2 基于MaxQ函数分解的分层强化学习

5.4.3 基于分层抽象机的分层强化学习

5.4.4 深度分层强化学习和自动分层

5.5 逆向强化学习

5.5.1 基本概念

5.5.2 求解奖励函数

5.5.3 大状态空间下的奖励函数求解

5.5.4 基于最大熵的逆向强化学习

5.5.5 生成对抗模仿学习算法

5.6 多智能体强化学习

5.6.1 多智能体学习目标

5.6.2 基于表格表征的多智能体强化学习

5.6.3 深度多智能体强化学习

参考文献

6 迁移学习

6.1 迁移学习的概念

6.1.1 迁移学习的定义

6.1.2 迁移学习的问题设定

6.2 迁移学习的理论基础

6.2.1 数据集偏移及其原因

6.2.2 转导迁移学习经典理论

6.2.3 间隔分歧散度

6.2.4 j纳迁移学习的经典理论

6.3 归纳迁移学习

6.3.1 有监督预训练

6.3.2 无监督预训练

6.3.3 微调

6.4 转导迁移学习

6.4.1 样本重要性加权方法

6.4.2 基于距离约束的领域适应方法

6.4.3 基于对抗学习的领域适应方法

6.5 无监督迁移学习

6.5.1 双向生成式对抗网络

6.6 迁移学习的相关范式

6.6.1 多任务学习

6.6.2 少样本学习

6.6.3 持续学习

6.6.4 元学习

6.7 迁移学习的应用

6.7.1 智慧医疗

6.7.2 自动驾驶

6.7.3 机器人控制

参考文献

7 演化智能

7.1 演化人工神经网络

7.1.1 权值演化

7.1.2 网络结构和学习规则的演化

7.1.3 EPNet：一种混合型演化神经网络方法

7.2 多目标演化

7.2.1 演化多目标优化

7.2.2 演化多目标机器学习

7.3 协同演化

7.3.1 协同