Python网络数据采集

内容简介：

本书采用简洁强大的Python语言，介绍了网络数据采集，并为采集新式网络中的各种数据类型提供了全面的指导。第一部分重点介绍网络数据采集的基本原理：如何用Python从网络服务器请求信息，如何对服务器的响应进行基本处理，以及如何以自动化手段与网站进行交互。第二部分介绍如何用网络爬虫测试网站，自动化处理，以及如何通过更多的方式接入网络。

作者简介：

Ryan Mitchell

数据科学家、软件工程师，目前在波士顿LinkeDrive公司负责开发公司的API和数据分析工具。此前，曾在Abine公司构建网络爬虫和网络机器人。她经常做网络数据采集项目的咨询工作，主要面向金融和零售业。另著有Instant Web Scraping with Java。

目录：

译者序ix

前言xi

第一部分　创建爬虫

第1章　初见网络爬虫2

1.1　网络连接2

1.2　BeautifulSoup简介4

1.2.1　安装BeautifulSoup5

1.2.2　运行BeautifulSoup7

1.2.3　可靠的网络连接8

第2章　复杂HTML解析11

2.1　不是一直都要用锤子11

2.2　再端一碗BeautifulSoup12

2.2.1　BeautifulSoup的find()和findAll()13

2.2.2　其他BeautifulSoup对象15

2.2.3　导航树16

2.3　正则表达式19

2.4　正则表达式和BeautifulSoup23

2.5　获取属性24

2.6　Lambda表达式24

2.7　超越BeautifulSoup25

第3章　开始采集26

3.1　遍历单个域名26

3.2　采集整个网站30

3.3　通过互联网采集34

3.4　用Scrapy采集38

第4章　使用API42

4.1　API概述43

4.2　API通用规则43

4.2.1　方法44

4.2.2　验证44

4.3　服务器响应45

4.4　Echo Nest46

4.5　Twitter API48

4.5.1　开始48

4.5.2　几个示例50

4.6　Google API52

4.6.1　开始52

4.6.2　几个示例53

4.7　解析JSON数据55

4.8　回到主题56

4.9　再说一点API60

第5章　存储数据61

5.1　媒体文件61

5.2　把数据存储到CSV64

5.3　MySQL65

5.3.1　安装MySQL66

5.3.2　基本命令68

5.3.3　与Python整合71

5.3.4　数据库技术与最佳实践74

5.3.5　MySQL里的“六度空间游戏”75

5.4　Email77

第6章　读取文档80

6.1　文档编码80

6.2　纯文本81

6.3　CSV85

6.4　PDF87

6.5　微软Word和.docx88

第二部分　高级数据采集

第7章　数据清洗94

7.1　编写代码清洗数据94

7.2　数据存储后再清洗98

第8章　自然语言处理103

8.1　概括数据104

8.2　马尔可夫模型106

8.3　自然语言工具包112

8.3.1　安装与设置112

8.3.2　用NLTK做统计分析113

8.3.3　用NLTK做词性分析115

8.4　其他资源119

第9章　穿越网页表单与登录窗口进行采集120

9.1　Python Requests库120

9.2　提交一个基本表单121

9.3　单选按钮、复选框和其他输入123

9.4　提交文件和图像124

9.5　处理登录和cookie125

9.6　其他表单问题127

第10章　采集JavaScript128

10.1　JavaScript简介128

10.2　Ajax和动态HTML131

10.3　处理重定向137

第11章　图像识别与文字处理139

11.1　OCR库概述140

11.1.1　Pillow140

11.1.2　Tesseract140

11.1.3　NumPy141

11.2　处理格式规范的文字142

11.3　读取验证码与训练Tesseract146

11.4　获取验证码提交答案151

第12章　避开采集陷阱154

12.1　道德规范154

12.2　让网络机器人看起来像人类用户155

12.2.1　修改请求头155

12.2.2　处理cookie157

12.2.3　时间就是一切159

12.3　常见表单安全措施159

12.3.1　隐含输入字段值159

12.3.2　避免蜜罐160

12.4　问题检查表162

第13章　用爬虫测试网站164

13.1　测试简介164

13.2　Python单元测试165

13.3　Selenium单元测试168

13.4　Python单元测试与Selenium单元测试的选择172

第14章　远程采集174

14.1　为什么要用远程服务器174

14.1.1　避免IP地址被封杀174

14.1.2　移植性与扩展性175

14.2　Tor代理服务器176

14.3　远程主机177

14.3.1　从网站主机运行178

14.3.2　从云主机运行178

14.4　其他资源179

14.5　勇往直前180

附录A　Python简介181

附录B　互联网简介184

附录C　网络数据采集的法律与道德约束188

作者简介200

封面介绍200

文章试读：“美味的汤，绿色的浓汤， 在热气腾腾的盖碗里装！ 谁不愿意尝一尝，这样的好汤？ 晚餐用的汤，美味的汤！” BeautifulSoup 库的名字取自刘易斯 •卡罗尔在《爱丽丝梦游仙境》里的同名诗歌。在故事中，这首诗是素甲鱼1 唱的。 就像它在仙境中的说法一样，BeautifulSoup 尝试化平淡为神奇。它通过定位HTML 标签来格式化和组织复杂的网络信息，用简单易用的Python...

(查看全部试读)