Hadoop大数据平台构建与应用

第1章 大数据与Hadoop平台技术\t1
1．1 大数据时代\t1
1．2 大数据关键技术\t2
1．3 大数据涉及的主要软件\t3
1．4 Hadoop平台技术的生态\t4
第2章 Ubuntu系统的安装与使用\t7
2．1 Linux系统简介\t7
2．2 Ubuntu系统安装\t8
2．2．1 下载虚拟机软件VMware并安装\t8
2．2．2 在虚拟机中安装Ubuntu系统\t14
2．2．3 切换中英文输入法\t27
2．2．4 安装VMware Tools\t28
2．2．5 apt更新与更新源更换\t30
2．2．6 安装vim编辑器并使用\t32
2．3 虚拟机联网问题及其他\t34
第3章 Linux基础知识及相关软件的基本使用\t39
3．1 Linux基础知识\t39
3．1．1 Linux目录结构\t39
3．1．2 Shell介绍\t40
3．1．3 超级用户――root用户\t41
3．1．4 sudo命令和su命令\t41
3．1．5 创建与删除普通用户\t42
3．1．6 目录标记规则\t43
3．1．7 目录权限\t43
3．1．8 安装SSH\t44
3．2 Linux常用软件与命令\t45
3．2．1 修改主机名\t45
3．2．2 目录操作\t45
3．2．3 查看文件内容和清屏\t46
3．2．4 文件操作\t46
3．2．5 文件解压\t47
3．2．6 进程与端口查看命令\t48
3．2．7 系统管理命令\t49
3．2．8 数据流重定向和管道的使用\t50
3．2．9 其他使用技巧介绍\t51
3．3 在Ubuntu中安装Eclipse\t51
3．3．1 通过软件中心下载安装Eclipse\t51
3．3．2 在桌面创建Eclipse快捷方式\t52
第4章 Hadoop的伪分布式安装与使用\t54
4．1 深入了解Hadoop\t54
4．1．1 Hadoop发行版本介绍\t54
4．1．2 Hadoop核心架构\t55
4．1．3 Hadoop的主要应用场景\t56
4．2 安装Java环境\t57
4．2．1 离线安装\t57
4．2．2 在线安装\t58
4．3 安装Hadoop\t59
4．3．1 下载Hadoop安装文件并解压\t59
4．3．2 配置Hadoop环境变量\t60
4．3．3 伪分布式模式配置\t61
4．3．4 Hadoop无法正常启动和使用的解决方法\t63
第5章 HDFS\t65
5．1 HDFS基本知识\t65
5．1．1 DFS简介\t65
5．1．2 HDFS\t65
5．1．3 HDFS存储数据\t66
5．2 Shell命令与HDFS交互操作\t67
5．2．1 Hadoop Shell命令方式\t67
5．2．2 目录操作\t68
5．2．3 文件操作\t69
5．2．4 利用Web界面管理HDFS\t70
5．3 Java编程与HDFS实现交互\t71
5．3．1 在Eclipse中创建HDFS交互Java项目\t71
5．3．2 在Java项目中编写Java应用程序代码\t75
5．3．3 编译运行程序与打包\t77
5．3．4 练习中使用的代码文件\t81
第6章 HBase伪分布部署与使用\t85
6．1 HBase介绍\t85
6．2 安装HBase\t86
6．3 伪分布HBase环境搭建\t87
6．4 HBase Shell常用操作命令实践\t90
6．4．1 HBase表结构举例说明和常用的表操作命令\t90
6．4．2 在HBase中创建表和删除表\t91
6．4．3 HBase数据库基本操作\t92
第7章 MapReduce原理与基础编程\t94
7．1 MapReduce介绍与基本原理\t94
7．1．1 MapReduce在现实生活中的运用\t94
7．1．2 通过案例拆解MapReduce的工作过程\t95
7．1．3 MapReduce工作流程概括\t98
7．2 MapReduce编程思路\t98
7．3 MapReduce编程实例1：WordCount\t99
7．4 MapReduce编程实例2：计算学生的平均成绩\t109
第8章 数据仓库Hive伪分布式部署与使用\t113
8．1 Hive的特点\t113
8．2 Hive伪分布式部署\t114
8．2．1 安装配置Hive\t114
8．2．2 安装配置MySQL，连接Hive元数据库\t115
8．3 MySQL数据库操作\t118
8．3．1 常用命令介绍\t118
8．3．2 无法登录MySQL Shell的解决方法\t120
第9章 数据分析与Hive数据库操作\t121
9．1 Hive操作命令介绍\t121
9．2 HQL中的Case命令用法介绍\t122
9．3 电商网站日志数据分析与达成目标\t124
9．4 数据分析实现 \t126
9．4．1 将网站日志文件集加载到Hive中\t126
9．4．2 统计分析网站日志数据\t127
9．4．3 统计词频\t131
第10章 Spark的安装与基础编程\t133
10．1 Spark的安装（Python版）\t133
10．1．1 下载Spark安装软件\t134
10．1．2 安装与配置Spark\t134
10．1．3 在PySpark中运行代码\t135
10．1．4 Spark独立应用程序编程示例\t136
10．2 Spark的一些基本概念\t137
10．3 RDD编程操作\t137
10．3．1 RDD操作的两种类型\t137
10．3．2 创建RDD\t139
10．3．3 创建键值对RDD\t142
10．4 从RDD到DataFrame\t145
10．4．1 Spark SQL和DataFrame\t145
10．4．2 创建样例数据文件\t146
10．4．3 读取json和csv文件生成DataFrame\t147
10．4．4 普通文本文件生成DataFrame\t148
10．5 Spark综合编程与Python可视化\t151
10．5．1 Spark综合编程\t151
10．5．2 Python可视化呈现\t154
第11章 Hadoop集群环境搭建\t160
11．1 克隆Linux虚拟机\t160
11．2 桥接模式与NAT模式\t163
11．2．1 桥接模式\t163
11．2．2 NAT模式\t164
11．3 VMware Workstation桥接网络配置\t164
11．3．1 集群网络配置实现的目标\t164
11．3．2 设置网络桥接模式\t165
11．3．3 验证\t169
11．4 大数据集群环境配置与搭建\t170
11．4．1 修改主机名，并将主机名与IP地址建立映射\t170
11．4．2 集群SSH免密登录\t171
11．4．3 时间同步\t173
第12章 Zookeeper与集群Hadoop安装应用\t174
12．1 Zookeeper介绍\t174
12．1．1 Zookeeper的作用\t174
12．1．2 Zookeeper选举机制\t175
12．2 安装Zookeeper\t175
12．2．1 为安装Zookeeper的目录赋权\t175
12．2．2 下载、解压Zookeeper安装包\t175
12．2．3 修改Zookeeper配置文件zoo．cfg\t176
12．2．4 创建zkdata和zkdatalog文件夹\t177
12．2．5 创建文件myid\t177
12．2．6 配置环境变量\t177
12．2．7 远程复制分发\t178
12．2．8 启动Zookeeper集群\t179
12．2．9 Zookeeper启动错误及解决方法\t179
12．3 在集群上安装Hadoop\t180
12．4 在集群上安装HBase\t185
第13章 构建集群数据仓库\t189
13．1 在slave2节点上安装MySQL Server\t189
13．2 在slave1节点上安装Hive服务器\t191
13．3 将master节点作为Hive客户端\t194
13．4 启动Hive\t195
第14章 Hadoop从完全分布式到HA的安装与使用\t197
14．1 Hadoop HA\t197
14．1．1 HDFS HA背景\t197
14．1．2 HDFS HA架构\t197
14．2 安装虚拟机系统\t199
14．2．1 在VMware中创建虚拟机\t199
14．2．2 安装CentOS 7\t206
14．2．3 设置网络静态IP地址\t208
14．2．4 克隆3台虚拟机\t211
14．3 使用XShell 6登录CentOS虚拟机\t212
14．4 修改各节点主机名称并配置SSH免密\t215
14．4．1 修改各节点的虚拟机主机名\t215
14．4．2 主机名与IP地址映射\t215
14．4．3 SSH免密设置\t216
14．5 安装JDK\t218
14．6 安装并配置Zookeeper\t219
14．6．1 安装Zookeeper\t220
14．6．2 启动和停止Zookeeper\t222
14．7 安装并配置为完全分布式Hadoop集群\t223
14．7．1 上传、解压文件并配置环境变量\t223
14．7．2 将Hadoop配置为完全分布式集群\t224
14．8 部署配置Hadoop HA模式\t227
14．8．1 编辑Hadoop HA配置文件\t227
14．8．2 分发文件\t230
14．8．3 第一次启动HA\t231
14．8．4 常规启动HA\t234
14．8．5 Hadoop HA部署完成之后的常规启停顺序\t236
14．8．6 在HA集群上测试WordCount程序\t236