自然语言处理综论（第二版）

第1章导论
1．1语音与语言处理中的知识
1．2歧义
1．3模型和算法
1．4语言、思维和理解
1．5学科现状与近期发展
1．6语音和语言处理简史
1．6．1基础研究：20世纪40年代和20世纪50年代
1．6．2两个阵营：1957年至1970年
1．6．3四个范型：1970年至1983年
1．6．4经验主义和有限状态模型的复苏：1983年至1993年
1．6．5不同领域的合流：1994年至1999年
1．6．6机器学习的兴起：2000年至2008年
1．6．7关于多重发现
1．6．8心理学的简要注记
1．7小结
1．8文献和历史说明
第一部分 词汇的计算机处理
第2章正则表达式与自动机
2．1正则表达式
2．1．1基本正则表达式模式
2．1．2析取、组合与优先关系
2．1．3一个简单的例子
2．1．4一个比较复杂的例子
2．1．5高级算符
2．1．6正则表达式中的替换、存储器与ELIZA
2．2有限状态自动机
2．2．1用FSA来识别羊的语言
2．2．2形式语言
2．2．3其他例子
2．2．4非确定FSA
2．2．5使用NFSA接收符号串
2．2．6识别就是搜索
2．2．7确定自动机与非确定自动机的关系
2．3正则语言与 FSA
2．4小结
2．5文献和历史说明
第3章 词与转录机
3．1英语形态学概观
3．1．1屈折形态学
3．1．2派生形态学
3．1．3附着
3．1．4非毗连形态学
3．1．5一致关系
3．2有限状态形态剖析
3．3有限状态词表的建造
3．4有限状态转录机
3．4．1定序转录机和确定性
3．5用于形态剖析的FST
3．6转录机和正词法规则
3．7把FST词表与规则相结合
3．8与词表无关的FST：Porter词干处理器
3．9单词和句子的词例还原
3．9．1中文的自动切词
3．10拼写错误的检查与更正
3．11最小编辑距离
3．12人是怎样进行形态处理的
3．13小结
3．14文献和历史说明
第4章 N元语法
4．1语料库中单词数目的计算
4．2简单的（非平滑的）N元语法
4．3训练集和测试集
4．3．1N元语法及其对训练语料库的敏感性
4．3．2未知词：开放词汇与封闭词汇
4．4N元语法的评测：困惑度
4．5平滑
4．5．1Laplace平滑
4．5．2Good Turing打折法
4．5．3Good Turing估计的一些高级专题
4．6插值法
4．7回退法
4．7．1高级专题：计算Katz回退的α和P*
4．8实际问题：工具包和数据格式
4．9语言模型建模中的高级专题
4．9．1高级的平滑方法：Kneser Ney平滑法
4．9．2基于类别的N元语法
4．9．3语言模型的自适应和网络（Web）应用
4．9．4长距离信息的使用：简要的综述
4．10信息论背景
4．10．1用于比较模型的交叉熵
4．11高级问题：英语的熵和熵率均衡性
4．12小结
4．13文献和历史说明
第5章词类标注
5．1（大多数）英语词的分类
5．2英语的标记集
5．3词类标注
5．4基于规则的词类标注
5．5基于隐马尔可夫模型的词类标注
5．5．1计算最可能的标记序列： 一个实例
5．5．2隐马尔可夫标注算法的形式化
5．5．3使用Viterbi算法来进行HMM标注
5．5．4把HMM扩充到三元语法
5．6基于转换的标注
5．6．1怎样应用TBL规则
5．6．2怎样学习TBL规则
5．7评测和错误分析
5．7．1错误分析
5．8词类标注中的高级专题
5．8．1实际问题：标记的不确定性与词例还原
5．8．2未知词
5．8．3其他语言中的词类标注
5．8．4标注算法的结合
5．9高级专题：拼写中的噪声信道模型
5．9．1上下文错拼更正
5．10小结
5．11文献和历史说明
第6章隐马尔可夫模型与最大熵模型
6．1马尔可夫链
6．2隐马尔可夫模型
6．3似然度的计算：向前算法
6．4解码：Viterbi算法
6．5HMM的训练：向前向后算法
6．6最大熵模型：背景
6．6．1线性回归
6．6．2逻辑回归
6．6．3逻辑回归：分类
6．6．4高级专题：逻辑回归的训练
6．7最大熵模型
6．7．1为什么称为最大熵
6．8最大熵马尔可夫模型
6．8．1MEMM的解码和训练
6．9小结
6．10文献和历史说明
第二部分 语音的计算机处理
第7章语音学
7．1言语语音与语音标音法
7．2发音语音学
7．2．1发音器官
7．2．2辅音：发音部位
7．2．3辅音：发音方法
7．2．4元音
7．2．5音节
7．3音位范畴与发音变异
7．3．1语音特征
7．3．2语音变异的预测
7．3．3影响语音变异的因素
7．4声学语音学和信号
7．4．1波
7．4．2语音的声波
7．4．3频率与振幅：音高和响度
7．4．4从波形来解释音子
7．4．5声谱和频域
7．4．6声源滤波器模型
7．5语音资源
7．6高级问题：发音音系学与姿态音系学
7．7小结
7．8文献和历史说明
第8章 语音合成
8．1文本归一化
8．1．1句子的词例还原
8．1．2非标准词
8．1．3同形异义词的排歧
8．2语音分析
8．2．1查词典
8．2．2名称
8．2．3字位-音位转换
8．3韵律分析
8．3．1韵律的结构
8．3．2韵律的突显度
8．3．3音调
8．3．4更精巧的模型：ToBI
8．3．5从韵律标记计算音延
8．3．6从韵律标记计算F0
8．3．7文本分析的最后结果：内部表示
8．4双音子波形合成
8．4．1建立双音子数据库的步骤
8．4．2双音子毗连和用于韵律的TD-PSOLA
8．5单元选择（波形）合成
8．6评测
8．7文献和历史说明
第9章语音自动识别
9．1语音识别的总体结构
9．2隐马尔可夫模型应用于语音识别
9．3特征抽取：MFCC矢量
9．3．1预加重
9．3．2加窗
9．3．3离散傅里叶变换
9．3．4Mel滤波器组和对数
9．3．5倒谱：逆向傅里叶变换
9．3．6Delta特征与能量
9．3．7总结：MFCC
9．4 声学似然度的计算
9．4．1矢量量化
9．4．2高斯概率密度函数
9．4．3概率、对数概率和距离函数
9．5词典和语言模型
9．6搜索与解码
9．7嵌入式训练
9．8评测：词错误率
9．9小结
9．10文献和历史说明
第10章语音识别：高级专题
10．1多遍解码：N最佳表和格
10．2A*解码算法（“栈”解码算法）
10．3依赖于上下文的声学模型：三音子
10．4分辨训练
10．4．1最大互信息估计
10．4．2基于后验分类器的声学模型
10．5语音变异的建模
10．5．1环境语音变异和噪声
10．5．2说话人变异和说话人适应
10．5．3发音建模：由于语类的差别而产生的变异
10．6元数据：边界、标点符号和不流利现象
10．7人的语音识别
10．8小结
10．9文献和历史说明
第11章计算音系学
11．1有限状态音系学
11．2高级有限状态音系学
11．2．1元音和谐
11．2．2模板式形态学
11．3计算优选理论
11．3．1优选理论中的有限状态转录机模型
11．3．2优选理论的随机模型
11．4音节切分
11．5音位规则和形态规则的机器学习
11．5．1音位规则的机器学习
11．5．2形态规则的机器学习
11．5．3优选理论中的机器学习
11．6小结
11．7文献和历史说明
第三部分句法的计算机处理
第12章英语的形式语法
12．1组成性
12．2上下文无关语法
12．2．1上下文无关语法的形式定义
12．3英语的一些语法规则
12．3．1句子一级的结构
12．3．2子句与句子
12．3．3名词短语
12．3．4一致关系
12．3．5动词短语和次范畴化
12．3．6助动词
12．3．7并列关系
12．4树库
12．4．1树库的例子：宾州树库课题
12．4．2作为语法的树库
12．4．3树库搜索
12．4．4中心词与中心词的发现
12．5语法等价与范式
12．6有限状态语法和上下文无关语法
12．7依存语法
12．7．1依存和中心词之间的关系
12．7．2范畴语法
12．8口语的句法
12．8．1不流畅现象与口语修正
12．8．2口语树库
12．9语法和人的语言处理
12．10小结
12．11文献和历史说明
第13章句法剖析
13．1剖析就是搜索
13．1．1自顶向下剖析
13．1．2自底向上剖析
13．1．3自顶向下剖析与自底向上剖析比较
13．2歧义
13．3面对歧义的搜索
13．4动态规划剖析方法
13．4．1CKY剖析
13．4．2Earley算法
13．4．3线图剖析
13．5局部剖析
13．5．1基于规则的有限状态组块分析
13．5．2基于机器学习的组块分析方法
13．5．3组块分析系统的评测
13．6小结
13．7文献和历史说明
第14章统计剖析
14．1概率上下文无关语法
14．1．1 PCFG用于排歧
14．1．2PCFG用于语言建模
14．2PCFG的概率CKY剖析
14．3PCFG规则概率的学习途径
14．4PCFG的问题
14．4．1独立性假设忽略了规则之间的结构依存关系
14．4．2缺乏对词汇依存关系的敏感性
14．5使用分离非终极符号的办法来改进PCFG
14．6概率词汇化的CFG
14．6．1Collins剖析器
14．6．2高级问题：Collins剖析器更多的细节
14．7剖析器的评测
14．8高级问题：分辨再排序
14．9高级问题：基于剖析器的语言模型
14．10人的剖析
14．11小结
14．12文献和历史说明
第15章特征与合一
15．1特征结构
15．2特征结构的合一
15．3语法中的特征结构
15．3．1一致关系
15．3．2中心语特征
15．3．3次范畴化
15．3．4长距离依存关系
15．4合一的实现
15．4．1合一的数据结构
15．4．2合一算法
15．5带有合一约束的剖析
15．5．1把合一结合到Earley剖析器中
15．5．2基于合一的剖析
15．6类型与继承
15．6．1高级问题：类型的扩充
15．6．2合一的其他扩充
15．7小结
15．8文献和历史说明
第16章语言和复杂性
16．1Chomsky 层级
16．2怎么判断一种语言不是正则的
16．2．1抽吸引理
16．2．2证明各种自然语言不是正则语言
16．3自然语言是上下文无关的吗
16．4计算复杂性和人的语言处理
16．5小结
16．6文献和历史说明
第四部分语义和语用的计算机处理
第17章意义的表示
17．1意义表示的计算要求
17．1．1可验证性
17．1．2无歧义性
17．1．3规范形式
17．1．4推理与变量
17．1．5表达能力
17．2模型论语义学
17．3一阶逻辑
17．3．1一阶逻辑基础
17．3．2变量和量词
17．3．3λ表示法
17．3．4一阶逻辑的语义
17．3．5推理
17．4事件与状态的表示
17．4．1时间表示
17．4．2体
17．5描述逻辑
17．6意义的具体化与情境表示方法
17．7小结
17．8文献和历史说明
第18章计算语义学
18．1句法驱动的语义分析
18．2句法规则的语义扩充
18．3量词辖域歧义及非确定性
18．3．1存储与检索方法
18．3．2基于约束的方法
18．4基于合一的语义分析方法
18．5语义与Earley分析器的集成
18．6成语和组成性
18．7小结
18．8文献和历史说明
第19章词汇语义学
19．1词义
19．2含义间的关系
19．2．1同义关系和反义关系
19．2．2上下位关系
19．2．3语义场
19．3WordNet：词汇关系信息库
19．4事件参与者
19．4．1题旨角色
19．4．2因素交替（Diathesis Alternations）
19．4．3题旨角色的问题
19．4．4命题库
19．4．5FrameNet
19．4．6选择限制
19．5基元分解
19．6高级问题：隐喻
19．7小结
19．8文献和历史说明
第20章计算词汇语义学
20．1词义排歧：综述
20．2有监督词义排歧
20．2．1监督学习的特征抽取
20．2．2朴素贝叶斯分类器和决策表分类器
20．3WSD评价方法、基准线和上限
20．4WSD：字典方法和同义词库方法
20．4．1Lesk算法
20．4．2选择限制和选择优先度
20．5最低限度的监督WSD：自举法
20．6词语相似度：语义字典方法
20．7词语相似度：分布方法
20．7．1定义词语的共现向量
20．7．2度量与上下文的联系
20．7．3定义两个向量之间的相似度
20．7．4评价分布式词语相似度
20．8下位关系和其他词语关系
20．9语义角色标注
20．10高级主题：无监督语义排歧
20．11小结
20．12文献和历史说明
第21章计算话语学
21．1话语分割
21．1．1无监督话语分割
21．1．2有监督话语分割
21．1．3话语分割的评价
21．2文本连贯性
21．2．1修辞结构理论
21．2．2自动连贯指派
21．3指代消解
21．4指代现象
21．4．1指示语的五种类型
21．4．2信息状态
21．5代词指代消解所使用的特征
21．5．1用来过滤潜在指代对象的特征
21．5．2代词解释中的优先关系
21．6指代消解的三种算法
21．6．1代词指代基准系统：Hobbs算法
21．6．2指代消解的中心算法
21．6．3代词指代消解的对数线性模型
21．6．4代词指代消解的特征
21．7共指消解
21．8共指消解的评价
21．9高级问题：基于推理的连贯判定
21．10所指的心理语言学研究
21．11小结
21．12文献和历史说明
第五部分应用
第22章信息抽取
22．1命名实体识别
22．1．1命名实体识别中的歧义
22．1．2基于序列标注的命名实体识别
22．1．3命名实体识别的评价
22．1．4实用NER架构
22．2关系识别和分类
22．2．1用于关系分析的有监督学习方法
22．2．2用于关系分析的弱监督学习方法
22．2．3关系分析系统的评价
22．3时间和事件处理
22．3．1时间表达式的识别
22．3．2时间的归一化
22．3．3事件检测和分析
22．3．4TimeBank
22．4模板填充
22．4．1模板填充的统计方法
22．4．2有限状态机模板填充系统
22．5高级话题：生物医学信息的抽取
22．5．1生物学命名实体识别
22．5．2基因归一化
22．5．3生物学角色和关系
22．6小结
22．7文献和历史说明
第23章问答和摘要
23．1信息检索
23．1．1向量空间模型
23．1．2词语权重计算
23．1．3词语选择和建立
23．1．4信息检索系统的评测
23．1．5同形关系、多义关系和同义关系
23．1．6改进用户查询的方法
23．2事实性问答
23．2．1问题处理
23．2．2段落检索
23．2．3答案处理
23．2．4事实性答案的评价
23．3摘要
23．4单文档摘要
23．4．1无监督的内容选择
23．4．2基于修辞分析的无监督摘要
23．4．3有监督的内容选择
23．4．4句子简化
23．5多文档摘要
23．5．1多文档摘要的内容选择
23．5．2多文档摘要的信息排序
23．6主题摘要和问答
23．7摘要的评价
23．8小结
23．9文献和历史说明
第24章对话与会话智能代理
24．1人类会话的属性
24．1．1话轮和话轮转换
24．1．2语言作为行动：言语行为
24．1．3语言作为共同行动：对话的共同基础
24．1．4会话结构
24．1．5会话隐含
24．2基本的对话系统
24．2．1ASR组件
24．2．2NLU组件
24．2．3生成和TTS组件
24．2．4对话管理器
24．2．5错误处理：确认和拒绝
24．3VoiceXML
24．4对话系统的设计和评价
24．4．1设计对话系统
24．4．2评价对话系统
24．5信息状态和对话行为
24．5．1使用对话行为
24．5．2解释对话行为
24．5．3检测纠正行为
24．5．4生成对话行为：确认和拒绝
24．6马尔可夫决策过程架构
24．7高级问题：基于规划的对话行为
24．7．1规划推理解释和生成
24．7．2对话的意图结构
24．8小结
24．9文献和历史说明
第25章机器翻译
25．1为什么机器翻译如此困难
25．1．1类型学
25．1．2其他的结构差异
25．1．3词汇的差异
25．2经典的机器翻译方法与Vauquois三角形
25．2．1直接翻译
25．2．2转换方法
25．2．3传统机器翻译系统中的直接和转换相融合的方法
25．2．4中间语言的思想：使用意义
25．3统计机器翻译
25．4P(F|E)：基于短语的翻译模型
25．5翻译中的对齐
25．5．1IBM模型1
25．5．2HMM对齐
25．6对齐模型的训练
25．6．1训练对齐模型的EM算法
25．7用于基于短语机器翻译的对称对齐
25．8基于短语统计机器翻译的解码
25．9机器翻译评价
25．9．1使用人工评价者
25．9．2自动评价：BLEU
25．10高级问题：机器翻译的句法模型
25．11高级问题：IBM模型3和繁衍度
25．11．1模型3的训练
25．12高级问题：机器翻译的对数线性模型
25．13小结
25．14文献和历史说明
参考文献