人工神经网络与模拟化计算

第1章  绪论                  
     1. 1  神经网络的发展与应用                  
     1. 2  人工神经元模型                  
     1. 3  用有向图表示神经网络                  
     1. 4  网络结构及工作方式                  
     1. 5  NN的学习                  
     1. 5. 1  学习方式                  
     1. 5. 2  学习算法                  
     1. 5. 3  学习与自适应                  
     习题                  
     参考文献                  
     第2章  前馈网络                  
     2. 1  线性阂值单元                  
     2. 1. 1  用线性阈值单元实现布尔函数                  
     2. 1. 2  线性可分性                  
     2. 1. 3  n维欧氏空间中m个点上可实现的线性可分函数的个数                  
     2. 2  多层前馈网络的计算能力及函数逼近                  
     2. 3  感知器学习算法                  
     2. 4  反向传播学习算法                  
     2. 5  改进反向传播算法收敛速度的措施                  
     2. 5. 1  加入动量项                  
     2. 5. 2  高阶导数的利用                  
     2. 5. 3  共辆梯度法                  
     2. 5. 4  递推最小二乘法                  
     2. 5. 5  神经元空间搜索法                  
     2. 5. 6  一些其他措施                  
     2. 6  多层前馈网络作用的分析                  
     2. 6. 1  线性网络                  
     2. 6. 2  非线性情况                  
     2. 7  应用举例——手写体数字识别                  
     习题                  
     参考文献                  
      第3章  径向基函数网络                  
     3. 1  4可分性                  
     3. 2  函数逼近与内插                  
     3. 3  正规化理论                  
     3. 4  RBF网络的学习                  
     3. 5  RBF网络的一些变形                  
     3. 6  CMAC网络                  
     3. 6. 1  模型结构                  
     3. 6. 2  工作原理分析                  
     3. 6. 3  学习算法                  
     3. 7  概率神经网络                  
     3. 8  小波网络                  
     3. 9  泛函连接网络                  
     参考文献                  
     第4章  学习理论与网络结构选择                  
     4. 1  学习的统计性能                  
     4. 1. 1  经验风险最小化原则                  
     4. 1. 2  VC维数                  
     4. 1. 3  一致收敛的速度                  
     4. 1. 4  结构风险最小化                  
     4. 2  学习的复杂性问题                  
     4. 2. 1  PAC学习的模型                  
     4. 2. 2  PAC学习的例子                  
     4. 2. 3  PAC学习模型的一些扩展                  
     4. 2. 4  多层前馈网络的样本数问题                  
     4. 2. 5  学习的计算复杂性                  
     4. 3  学习的动态特性                  
     4. 3. 1  通用学习方程                  
     4. 3. 2  LMS规则                  
     4. 3. 3  Hebb规则                  
     4. 3. 4  Oja学习规则                  
     4. 4  推广问题                  
     4. 4. 1  定性分祈                  
     4. 4. 2  平均推广能力                  
     4. 4. 3  从数学上研究一般的推广问题                  
     4. 4. 4  样本量问题                  
     4. 1. 5    推广误差的实验估计                  
     4. 5  预测学习                  
     4. 5. 1  模型                  
     4. 5. 2  根本困难                  
     4. 5. 3  维数灾难问题                  
     4. 5. 4  方差与偏置折衷                  
     4. 6  网络模型选择                  
     4. 6. 1  定性分析                  
     4. 6. 2  正规化方法                  
     4. 6. 3  修剪与网络构造法                  
     4. 7  将号学习与神经网络结合                  
     4. 8  支承向量机                  
     4. 9  新一代神经元模型及其计算能力的研究                  
     4. 9. 1  布尔函数的计算                  
     4. 9. 2  连续输入的情况                  
     4. 9. 3  脉冲锅合神经元                  
     习题                  
     参考文献                  
     第5章  反馈网络与联想存储器                  
     5. 1  联想存储器                  
     5. 2  反馈网络                  
     5. 2. 1  离散Hopfield网络                  
     5. 2. 2  连续Hopfield网络                  
     5. 3  用反馈网络作联想存储器                  
     5. 4  相关学习算法                  
     5. 5  容量分析                  
     5. 6  伪逆学习算法                  
     5. 7  基于线性可分性的学习算法                  
     5. 8  Li与Miche1的设计方法                  
     5. 9  线性规划方法                  
     5. 10  多余吸引子问题                  
     5. 11  双向联想存储器                  
     5. 12  玻耳兹曼饥                  
     5. l2. 1  随机神经元                  
     5. 12. 2  模拟退火算法                  
     5. 12. 3  玻耳兹曼机                  
     5. 12. 4  玻耳兹曼机的学习                  
     5. 12. 5  平均场学习规则                  
      参考文献                  
     第6章  神经网络用于优化计算                  
     6. 1  概述                  
     6. 2  连续Hopfield网络用于求解优化问题                  
     6. 3  CHNN用于优化计算时存在的问题                  
     6. 4  神经网络用于求解货流问题                  
     6. 5  用于解数学规划的电路举例                  
     6. 6  在通信网络中的应用举例                  
     习题                  
     参考文献                  
     第7章  自组织系统(I)一一Hebb学习                  
     7. 1  引言                  
     7. 2  自组织特征检测——一个简单的实验                  
     7. 3  主成分分析                  
     7. 4  单个神经元抽取最大主分量                  
     7. 5  单层网络朋于抽取一组主分量                  
     7. 6  有侧向连接的自适应PCA                  
     7. 7  最小均方误差重建学习                  
     7. 8  次分量的提取和应用                  
     7. 8. 1  最优拟合问题                  
     7. 8. 2  用单个神经元实现                  
     7. 9  PCA算法的进一步扩展                  
     7. 9. 1  非线性PCA                  
     7. 9. 2  鲁棒PCA算法                  
     7. 10  用于特征拙取的网络                  
     7. 10. 1  正态分布的数据                  
     7. 10. 2  类内. 类间距离的计算                  
     7. 10. 3  Bhattacharya距离                  
     7. 11  独立成分分析                  
     7. 11, 1  IC与肓源分离                  
     7. 11. 2  高阶累积量                  
     7. 11. 3  基于信息的判据                  
     参考文献                  
     第8章  自组织系统(II)—一  竞争学习                  
     8. 1  Hamming网络与WTA网络                  
     8. 2    自组织特征映射                     
     8. 3  等效的SOFM算法                  
     8. 4  向量量化                  
     8. 5  广义向设量化                  
     8. 6  讨论                  
     8. 7  应用举例——指纹识别                  
     8. 8  自适应共振理论                  
     8. 3. 1  ART的基本原理                  
     8. 8. 2  ART作为分类器时的学习算法                  
     习题                  
     参考文献                  
     第9章  自组织系统(III)——基于信息论的模型                  
     9. 1  信息论简介                  
     9. 2  最大信息保持原则                  
     9. 2. 1  单个神经元受噪声干扰                  
     9. 2. 2  输入受加性噪声干扰                  
     9. 2. 3  更复杂些的情况                  
     9. 3  拓扑有序映射的产生                  
     9. 4  基于最大熵原则的拓扑映射                  
     参考文献                  
     第10章  动态信号与系统的处理                  
     10. 1  延时单元网络                  
     10. 2  时空神经元模型                  
     10. 2. 1  模型                  
     10. 2. 2  FIR网络的学习算法                  
     10. 3  部分反馈网络                  
     10. 4  有反馈网络的学习算法                  
     10. 4. 1  随时间演化的反向传播算法                  
     10. 4. 2  实时递归学习                  
     10. 5  应用举例                  
     10. 6  讨沦                  
     l0. 7  再励学习的主要算法                  
     10. 7. 1  时间差分法                  
     10. 7. 2  RL的主要算法                  
     10. 8  再励学习在控制中的应用举例                  
     习题                  
     参考文献                  
     第11章  神经网络中的动力学问题                  
     11. 1  运动稳定性的基本知识                  
     11. 1. 1  运动微分方程                  
     11. 1. 2  平衡状态及其稳定性                  
     11. 1. 3  定性方法, 系统的分类                  
     11. 1. 4  Liapunov定理                  
     11. 1. 5  吸引子                  
     11. 2  反馈网络的基本模型及其稳定性                  
     11. 2. 1  基本模型                  
     11. 2. 2  稳定性分析                  
     11. 2. 3  离散模型                  
     11. 2. 4  离散时间连续状态模型                  
     11. 3  递归反传算法                  
     11. 4  混沈神经网络的初步介绍                  
     11. 4. 1  一个简单的非线性映射                  
     11. 4. 2  混沌神经元模型                  
     11. 4. 3  用混沌神经网络作联想记忆                  
     参考文献                  
     第12章  模块化神经网络                  
     12. 1  引言                  
     12. 2  混合专家网络                  
     12. 3  分层混合专家网络                  
     l2. 3. 1  工作原理                  
     l2. 3. 2  EM算法概述                  
     12. 3. 3  EM算法用于HME                  
     12. 3. 4  IRLS算法                  
     12. 3. 5  EM算法的步骤                  
     12. 4  应用举例                  
     参考文献                  
     第13章  误差函数与参数优化方法                  
     13. 1  误差平方和                  
     13. 1. 1  网络输出的含义                  
     13. 1. 2  更一般的条件分布的建模                  
     13. 2  后验概率估计                  
     l3. 2. 1  误差平方和准则                  
     l3. 2. 2  隐单元的作用                  
     13. 2. 3  R范数误差