Python网络爬虫实战

目录

基础篇

第1章Python与网络爬虫

1.1Python语言

1.1.1什么是Python

1.1.2Python的应用现状

1.2Python的安装与开发环境配置

1.2.1在Windows上安装

1.2.2在Ubuntu和Mac OS上安装

1.2.3PyCharm的使用

1.2.4Jupyter Notebook

1.3Python的基本语法

1.3.1数据类型

1.3.2逻辑语句

1.3.3Python中的函数与类

1.3.4如何学习Python

1.4互联网、HTTP与HTML

1.4.1互联网与HTTP协议

1.4.2HTML

1.5HelloSpider

1.5.1第一个爬虫程序

1.5.2对爬虫程序的思考

1.6调研网站

1.6.1网站的robots.txt与Sitemap

1.6.2查看网站所用的技术

1.6.3查看网站所有者的信息

1.6.4使用开发者工具检查网页

1.7本章小结

第2章数据的采集

2.1从抓取开始

2.2正则表达式

2.2.1初识正则表达式

2.2.2正则表达式的简单使用

2.3BeautifulSoup

2.3.1BeautifulSoup的安装与特点

2.3.2BeautifulSoup的基本使用

2.4XPath与lxml

2.4.1XPath

2.4.2lxml与XPath的使用

2.5遍历页面

2.5.1抓取下一个页面

2.5.2完成爬虫程序

2.6使用API

2.6.1API简介

2.6.2API使用示例

2.7本章小结

第3章文件与数据的存储

3.1Python中的文件

3.1.1基本的文件读写

3.1.2序列化

3.2字符串

3.3Python与图片

3.3.1PIL与Pillow

3.3.2Python与OpenCV简介

3.4CSV文件

3.4.1CSV简介

3.4.2CSV的读写

3.5使用数据库

3.5.1使用MySQL

3.5.2使用SQLite3

3.5.3使用SQLAlchemy

3.5.4使用Redis

3.6其他类型的文档

3.7本章小结

进阶篇

第4章JavaScript与动态内容

4.1JavaScript与AJAX技术

4.1.1JavaScript语言

4.1.2AJAX

4.2抓取AJAX数据

4.2.1分析数据

4.2.2提取数据

4.3抓取动态内容

4.3.1动态渲染页面

4.3.2使用Selenium

4.3.3PyV8与Splash

4.4本章小结

第5章表单与模拟登录

5.1表单

5.1.1表单与POST

5.1.2发送表单数据

5.2Cookie

5.2.1什么是Cookie

5.2.2在Python中使用Cookie

5.3模拟登录网站

5.3.1分析网站

5.3.2通过Cookie模拟登录

5.4验证码

5.4.1图片验证码

5.4.2滑动验证

5.5本章小结

第6章数据的进一步处理

6.1Python与文本分析

6.1.1什么是文本分析

6.1.2jieba与SnowNLP

6.1.3NLTK

6.1.4文本的分类与聚类

6.2数据处理与科学计算

6.2.1从MATLAB到Python

6.2.2NumPy

6.2.3Pandas

6.2.4Matplotlib

6.2.5SciPy与SymPy

6.3本章小结

高级篇

第7章更灵活和更多样的爬虫

7.1更灵活的爬虫——以微信数据的抓取为例

7.1.1用Selenium抓取Web微信信息

7.1.2基于Python的微信API工具

7.2更多样的爬虫

7.2.1PyQuery

7.2.2在线爬虫应用平台

7.2.3使用urllib

7.3对爬虫的部署和管理

7.3.1配置远程主机

7.3.2编写本地爬虫

7.3.3部署爬虫

7.3.4查看运行结果

7.3.5使用爬虫管理框架

7.4本章小结

第8章浏览器模拟与网站测试

8.1关于测试

8.1.1什么是测试

8.1.2什么是TDD

8.2Python的单元测试

8.2.1使用unittest

8.2.2其他方法

8.3使用Python爬虫测试网站

8.4使用Selenium测试

8.4.1Selenium测试常用的网站交互

8.4.2结合Selenium进行单元测试

8.5本章小结

第9章更强大的爬虫

9.1爬虫框架

9.1.1Scrapy是什么

9.1.2Scrapy的安装与入门

9.1.3编写Scrapy爬虫

9.1.4其他爬虫框架

9.2网站反爬虫

9.2.1反爬虫的策略

9.2.2伪装headers

9.2.3使用代理

9.2.4访问频率

9.3多进程与分布式

9.3.1多进程编程与爬虫抓取

9.3.2分布式爬虫

9.4本章小结

实践篇

第10章爬虫实践： 下载网页中的小说和购物评论

10.1下载网络小说

10.1.1分析网页

10.1.2编写爬虫

10.1.3运行并查看TXT文件

10.2下载购物评论

10.2.1查看网络数据

10.2.2编写爬虫

10.2.3数据下载结果与爬虫分析

10.3本章小结

第11章爬虫实践： 保存感兴趣的图片

11.1豆瓣网站分析与爬虫设计

11.1.1从需求出发

11.1.2处理登录问题

11.2编写爬虫程序

11.2.1爬虫脚本

11.2.2程序分析

11.3运行并查看结果

11.4本章小结

第12章爬虫实践： 网上影评分析

12.1需求分析与爬虫设计

12.1.1网页分析

12.1.2函数设计

12.2编写爬虫

12.2.1编写程序

12.2.2可能的改进

12.3本章小结

第13章爬虫实践： 使用爬虫下载网页

13.1设计抓取程序

13.2运行程序

13.3展示网页

第14章爬虫实践： 使用爬虫框架

14.1Gain框架

14.2使用Gain做简单抓取

14.3PySpider框架

14.4使用PySpider进行抓取

附录A

A.1Python中的一些重要概念

A.1.1*args与**kwargs的使用

A.1.2global关键词

A.1.3enumerate枚举

A.1.4迭代器与生成器

A.2Python中的常用模块

A.2.1collections

A.2.2arrow

A.2.3timeit

A.2.4pickle

A.2.5os

A.2.6sys

A.2.7itertools

A.2.8functools

A.2.9threading、queue与multiprocessing

A.3requests库

A.3.1requests基础

A.3.2更多用法

A.4正则表达式

A.4.1什么是正则表达式

A.4.2正则表达式的基础语法

参考文献