作者:
米切尔 (Ryan Mitchell)
出版社: 人民邮电出版社
原作名: Web Scraping with Python: Collecting Data from the Modern Web
译者: 陶俊杰 / 陈小莉
出版年: 2016-3-1
页数: 200
定价: CNY 59.00
装帧: 平装
丛书: 图灵程序设计丛书·Python系列
ISBN: 9787115416292
出版社: 人民邮电出版社
原作名: Web Scraping with Python: Collecting Data from the Modern Web
译者: 陶俊杰 / 陈小莉
出版年: 2016-3-1
页数: 200
定价: CNY 59.00
装帧: 平装
丛书: 图灵程序设计丛书·Python系列
ISBN: 9787115416292
内容简介 · · · · · ·
本书采用简洁强大的Python语言,介绍了网络数据采集,并为采集新式网络中的各种数据类型提供了全面的指导。第一部分重点介绍网络数据采集的基本原理:如何用Python从网络服务器请求信息,如何对服务器的响应进行基本处理,以及如何以自动化手段与网站进行交互。第二部分介绍如何用网络爬虫测试网站,自动化处理,以及如何通过更多的方式接入网络。
Python网络数据采集的创作者
· · · · · ·
-
玛格丽特·米切尔 作者
作者简介 · · · · · ·
Ryan Mitchell
数据科学家、软件工程师,目前在波士顿LinkeDrive公司负责开发公司的API和数据分析工具。此前,曾在Abine公司构建网络爬虫和网络机器人。她经常做网络数据采集项目的咨询工作,主要面向金融和零售业。另著有Instant Web Scraping with Java。
目录 · · · · · ·
译者序 ix
前言 xi
第一部分 创建爬虫
第1章 初见网络爬虫 2
1.1 网络连接 2
1.2 BeautifulSoup简介 4
1.2.1 安装BeautifulSoup 5
1.2.2 运行BeautifulSoup 7
1.2.3 可靠的网络连接 8
第2章 复杂HTML解析 11
2.1 不是一直都要用锤子 11
2.2 再端一碗BeautifulSoup 12
2.2.1 BeautifulSoup的find()和findAll() 13
2.2.2 其他BeautifulSoup对象 15
2.2.3 导航树 16
2.3 正则表达式 19
2.4 正则表达式和BeautifulSoup 23
2.5 获取属性 24
2.6 Lambda表达式 24
2.7 超越BeautifulSoup 25
第3章 开始采集 26
3.1 遍历单个域名 26
3.2 采集整个网站 30
3.3 通过互联网采集 34
3.4 用Scrapy采集 38
第4章 使用API 42
4.1 API概述 43
4.2 API通用规则 43
4.2.1 方法 44
4.2.2 验证 44
4.3 服务器响应 45
4.4 Echo Nest 46
4.5 Twitter API 48
4.5.1 开始 48
4.5.2 几个示例 50
4.6 Google API 52
4.6.1 开始 52
4.6.2 几个示例 53
4.7 解析JSON数据 55
4.8 回到主题 56
4.9 再说一点API 60
第5章 存储数据 61
5.1 媒体文件 61
5.2 把数据存储到CSV 64
5.3 MySQL 65
5.3.1 安装MySQL 66
5.3.2 基本命令 68
5.3.3 与Python整合 71
5.3.4 数据库技术与最佳实践 74
5.3.5 MySQL里的“六度空间游戏” 75
5.4 Email 77
第6章 读取文档 80
6.1 文档编码 80
6.2 纯文本 81
6.3 CSV 85
6.4 PDF 87
6.5 微软Word和.docx 88
第二部分 高级数据采集
第7章 数据清洗 94
7.1 编写代码清洗数据 94
7.2 数据存储后再清洗 98
第8章 自然语言处理 103
8.1 概括数据 104
8.2 马尔可夫模型 106
8.3 自然语言工具包 112
8.3.1 安装与设置 112
8.3.2 用NLTK做统计分析 113
8.3.3 用NLTK做词性分析 115
8.4 其他资源 119
第9章 穿越网页表单与登录窗口进行采集 120
9.1 Python Requests库 120
9.2 提交一个基本表单 121
9.3 单选按钮、复选框和其他输入 123
9.4 提交文件和图像 124
9.5 处理登录和cookie 125
9.6 其他表单问题 127
第10章 采集JavaScript 128
10.1 JavaScript简介 128
10.2 Ajax和动态HTML 131
10.3 处理重定向 137
第11章 图像识别与文字处理 139
11.1 OCR库概述 140
11.1.1 Pillow 140
11.1.2 Tesseract 140
11.1.3 NumPy 141
11.2 处理格式规范的文字 142
11.3 读取验证码与训练Tesseract 146
11.4 获取验证码提交答案 151
第12章 避开采集陷阱 154
12.1 道德规范 154
12.2 让网络机器人看起来像人类用户 155
12.2.1 修改请求头 155
12.2.2 处理cookie 157
12.2.3 时间就是一切 159
12.3 常见表单安全措施 159
12.3.1 隐含输入字段值 159
12.3.2 避免蜜罐 160
12.4 问题检查表 162
第13章 用爬虫测试网站 164
13.1 测试简介 164
13.2 Python单元测试 165
13.3 Selenium单元测试 168
13.4 Python单元测试与Selenium单元测试的选择 172
第14章 远程采集 174
14.1 为什么要用远程服务器 174
14.1.1 避免IP地址被封杀 174
14.1.2 移植性与扩展性 175
14.2 Tor代理服务器 176
14.3 远程主机 177
14.3.1 从网站主机运行 178
14.3.2 从云主机运行 178
14.4 其他资源 179
14.5 勇往直前 180
附录A Python简介 181
附录B 互联网简介 184
附录C 网络数据采集的法律与道德约束 188
作者简介 200
封面介绍 200
· · · · · · (收起)
前言 xi
第一部分 创建爬虫
第1章 初见网络爬虫 2
1.1 网络连接 2
1.2 BeautifulSoup简介 4
1.2.1 安装BeautifulSoup 5
1.2.2 运行BeautifulSoup 7
1.2.3 可靠的网络连接 8
第2章 复杂HTML解析 11
2.1 不是一直都要用锤子 11
2.2 再端一碗BeautifulSoup 12
2.2.1 BeautifulSoup的find()和findAll() 13
2.2.2 其他BeautifulSoup对象 15
2.2.3 导航树 16
2.3 正则表达式 19
2.4 正则表达式和BeautifulSoup 23
2.5 获取属性 24
2.6 Lambda表达式 24
2.7 超越BeautifulSoup 25
第3章 开始采集 26
3.1 遍历单个域名 26
3.2 采集整个网站 30
3.3 通过互联网采集 34
3.4 用Scrapy采集 38
第4章 使用API 42
4.1 API概述 43
4.2 API通用规则 43
4.2.1 方法 44
4.2.2 验证 44
4.3 服务器响应 45
4.4 Echo Nest 46
4.5 Twitter API 48
4.5.1 开始 48
4.5.2 几个示例 50
4.6 Google API 52
4.6.1 开始 52
4.6.2 几个示例 53
4.7 解析JSON数据 55
4.8 回到主题 56
4.9 再说一点API 60
第5章 存储数据 61
5.1 媒体文件 61
5.2 把数据存储到CSV 64
5.3 MySQL 65
5.3.1 安装MySQL 66
5.3.2 基本命令 68
5.3.3 与Python整合 71
5.3.4 数据库技术与最佳实践 74
5.3.5 MySQL里的“六度空间游戏” 75
5.4 Email 77
第6章 读取文档 80
6.1 文档编码 80
6.2 纯文本 81
6.3 CSV 85
6.4 PDF 87
6.5 微软Word和.docx 88
第二部分 高级数据采集
第7章 数据清洗 94
7.1 编写代码清洗数据 94
7.2 数据存储后再清洗 98
第8章 自然语言处理 103
8.1 概括数据 104
8.2 马尔可夫模型 106
8.3 自然语言工具包 112
8.3.1 安装与设置 112
8.3.2 用NLTK做统计分析 113
8.3.3 用NLTK做词性分析 115
8.4 其他资源 119
第9章 穿越网页表单与登录窗口进行采集 120
9.1 Python Requests库 120
9.2 提交一个基本表单 121
9.3 单选按钮、复选框和其他输入 123
9.4 提交文件和图像 124
9.5 处理登录和cookie 125
9.6 其他表单问题 127
第10章 采集JavaScript 128
10.1 JavaScript简介 128
10.2 Ajax和动态HTML 131
10.3 处理重定向 137
第11章 图像识别与文字处理 139
11.1 OCR库概述 140
11.1.1 Pillow 140
11.1.2 Tesseract 140
11.1.3 NumPy 141
11.2 处理格式规范的文字 142
11.3 读取验证码与训练Tesseract 146
11.4 获取验证码提交答案 151
第12章 避开采集陷阱 154
12.1 道德规范 154
12.2 让网络机器人看起来像人类用户 155
12.2.1 修改请求头 155
12.2.2 处理cookie 157
12.2.3 时间就是一切 159
12.3 常见表单安全措施 159
12.3.1 隐含输入字段值 159
12.3.2 避免蜜罐 160
12.4 问题检查表 162
第13章 用爬虫测试网站 164
13.1 测试简介 164
13.2 Python单元测试 165
13.3 Selenium单元测试 168
13.4 Python单元测试与Selenium单元测试的选择 172
第14章 远程采集 174
14.1 为什么要用远程服务器 174
14.1.1 避免IP地址被封杀 174
14.1.2 移植性与扩展性 175
14.2 Tor代理服务器 176
14.3 远程主机 177
14.3.1 从网站主机运行 178
14.3.2 从云主机运行 178
14.4 其他资源 179
14.5 勇往直前 180
附录A Python简介 181
附录B 互联网简介 184
附录C 网络数据采集的法律与道德约束 188
作者简介 200
封面介绍 200
· · · · · · (收起)
"Python网络数据采集"试读 · · · · · ·
一旦你开始采集网络数据,就会感受到浏览器为我们做的所有细节。网络上如果没有HTML 文本格式层、CSS 样式层、JavaScript 执行层和图像渲染层,乍看起来会有点儿吓人,但是在这一章和下一章,我们将介绍如何不通过浏览器的帮助来格式化和理解数据。 本章将首先向网络服务器发送GET 请求以获取具体网页,再从网页中读取HTML 内容, 最后做一些简单的信息提取,将我们要寻找的内容分离出来...
· · · · · · (查看全部试读)
丛书信息
· · · · · ·
图灵程序设计丛书·Python系列(共53册),
这套丛书还有
《明解Python》《Python编程(第3版)》《Python计算机视觉编程》《Python函数式编程(第2版)》《父与子的编程之旅:与小卡特一起学Python(第3版)》
等
。
喜欢读"Python网络数据采集"的人也喜欢 · · · · · ·
- 用Python写网络爬虫 6.9
- 自制编译器 8.2
- 利用Python进行数据分析 8.6
- 数据科学入门 7.1
- 流畅的Python 9.4
- Go Web 编程 8.0
- 精通Linux内核网络 7.0
- Node.js实战 8.1
Python网络数据采集的书评 · · · · · · ( 全部 12 条 )
> 更多书评 12篇
这本书的其他版本 · · · · · · ( 全部7 )
-
O'Reilly Media (2015)8.5分 133人读过
-
人民邮电出版社 (2019)7.5分 68人读过
-
O'Reilly Media (2018)8.2分 17人读过
-
オライリージャパン (2016)暂无评分 1人读过
以下书单推荐 · · · · · · ( 全部 )
- 基础工具书、常用索引手册、数据处理方法类书目 (南池子)
- 工作后购书目录 (张小国)
- 图书馆待借阅 (养鸭专业户)
- book2do (wishUhere)
- 自用2016 (cruyff)
谁读这本书? · · · · · ·
二手市场
· · · · · ·
订阅关于Python网络数据采集的评论:
feed: rss 2.0
0 有用 Showing V1.4.1 2018-08-07 12:03:35
提纲挈领的入门书,惊讶地发现好多东西我居然已经都自己摸索出来了……
7 有用 Joard Spike 2016-07-27 14:43:42
适合入门的书籍,如果你对HTTP,HTML,Python这些都不了解的话
0 有用 cateverywhere 2018-02-17 19:41:14
零基础入门
14 有用 猫壳 2017-12-13 16:25:52
爬虫入门推荐,内容不难,面面俱到,唯一遗憾的是没讲如何多线程和分布式爬取,篇幅有限可以理解。作者还分享了一些踩坑的细节,甚至跟爬虫看似没有直接关系的知识点也介绍了一下。代码不是很Pythonic,看起来作者应该主要是写Java的,不过代码质量可以,Python 3也好评。
1 有用 M. Lions 2016-06-11 22:42:58
ORELLY的书我觉得到最后作为收藏正好,无论是浅显入门的还是那些略专业的工具书
0 有用 Christopher 2024-03-09 19:32:55 上海
啃完了
0 有用 西西里卷 2023-12-01 13:54:49 福建
当目录看
0 有用 豆友UVx3MUnXQ0 2023-11-22 17:05:09 美国
现在(2023)来看这本书太过时了,里面很多函数都被废弃了,不建议去读,很浪费实践。
0 有用 鞠婧祎 2023-08-04 08:00:47 葡萄牙
收益颇多
0 有用 白也 2023-01-13 15:29:02 美国
这书大概是我初中时候买的,当时没怎么看,中午清书柜给清出来了。翻了一会儿看到了第九章,感觉写的不错,虽然都很基础但是提纲挈领,比较清楚。翻译也不错。