php采集安装教程(Python数据采集流程)-众学网

云栖君导读：本文详细讲解了python网络爬虫，并介绍抓包分析等技术，实战训练三个网络爬虫案例，并简单补充了常见的反爬策略与反爬攻克手段。通过本文的学习，可以快速掌握网络爬虫基础，结合实战练习，写出一些简单的爬虫项目。

演讲嘉宾简介：

以下内容根据演讲嘉宾视频分享以及PPT整理而成。

本次的分享主要围绕以下五个方面：

一、数据采集与网络爬虫技术简介

二、网络爬虫技术基础

三、抓包分析

四、挑战案例

五、推荐内容

一、数据采集与网络爬虫技术简介

网络爬虫是用于数据采集的一门技术，可以帮助我们自动地进行信息的获取与筛选。从技术手段来说，网络爬虫有多种实现方案，如PHP、Java、Python …。那么用python 也会有很多不同的技术方案（Urllib、requests、scrapy、selenium…)，每种技术各有各的特点，只需掌握一种技术，其它便迎刃而解。同理，某一种技术解决不了的难题，用其它技术或方依然无法解决。网络爬虫的难点并不在于网络爬虫本身，而在于网页的分析与爬虫的反爬攻克问题。希望在本次课程中大家可以领会爬虫中相对比较精髓的内容。

二、网络爬虫技术基础

在本次课中，将使用Urllib技术手段进行项目的编写。同样，掌握了该技术手段，其他的技术手段也不难掌握，因为爬虫的难点不在于技术手段本身。本知识点包括如下内容：

Urllib基础

浏览器伪装

用户代理池

糗事百科爬虫实战

需要提前具备的基础知识：正则表达式

1、Urllib基础

爬网页

打开python命令行界面，两种方法：ulropen()爬到内存，urlretrieve()爬到硬盘文件。

同理，只需换掉网址可爬取另一个网页内容

上面是将爬到的内容存在内存中，其实也可以存在硬盘文件中，使用urlretrieve()方法

>>> urllib.request.urlretrieve(“http://www.jd.com”,filename=”D:/我的教学/Python/阿里云系列直播/第2次直播代码/test.html”)

之后可以打开test.html，京东网页就出来了。由于存在隐藏数据，有些数据信息和图片无法显示，可以使用抓包分析进行获取。

2、浏览器伪装

尝试用上面的方法去爬取糗事百科网站url=”https://www.qiushibaike.com/”，会返回拒绝访问的回复，但使用浏览器却可以正常打开。那么问题肯定是出在爬虫程序上，其原因在于爬虫发送的请求头所导致。

将User-Agent设置为浏览器中的值，虽然urlopen()不支持请求头的添加，但是可以利用opener进行addheaders，opener是支持高级功能的管理对象。代码如下

3、用户代理池

第一步，收集大量的用户代理User-Agent

第二步，建立函数UA()，用于切换用户代理User-Agent

for循环，每访问一次切换一次UA

每爬3次换一次UA

（*每几次做某件事情，利用求余运算）

4、第一项练习-糗事百科爬虫实战

目标网站：https://www.qiushibaike.com/

需要把糗事百科中的热门段子爬取下来，包括翻页之后内容，该如何获取？

第一步，对网址进行分析，如下图所示，发现翻页之后变化的部分只是page后面的页面数字。

第二步，思考如何提取某个段子？查看网页代码，如下图所示，可以发现<div class=”content”>的数量和每页段子数量相同，可以用<div class=”content”>这个标识提取出每条段子信息。

第三步，利用上面所提到的用户代理池进行爬取。首先建立用户代理池，从用户代理池中随机选择一项，设置UA。

还可以定时的爬取：

换言之，学习爬虫需要灵活变通的思想，针对不同的情况，不同的约束而灵活运用。

三、抓包分析

抓包分析可以将网页中的访问细节信息取出。有时会发现直接爬网页时是无法获取到目标数据的，因为这些数据做了隐藏，此时可以使用抓包分析的手段进行分析，并获取隐藏数据。

1、Fiddler简介

抓包分析可以直接使用浏览器F12进行，也可以使用一些抓包工具进行，这里推荐Fiddler。Fiddler下载安装。假设给Fiddler配合的是火狐浏览器，打开浏览器，如下图，找到连接设置，选择手动代理设置并确定。

假设打开百度，如下图，加载的数据包信息就会在Fiddler中左侧列表中列出来，那么网站中隐藏相关的数据可以从加载的数据包中找到。

2、第二项练习-腾讯视频评论爬虫实战

目标网站：https://v.qq.com/

需要获取的数据：某部电影的评论数据，实现自动加载。

解码出来可以看到对应评论内容。

第二步，查找网址中变化的cursor字段值。从上面的第一条评论信息里寻找，发现恰好在last字段值与后一条评论的cursor值相同。即表示cursor的值是迭代方式生成的，每条评论的cursor信息在其上一条评论的数据包中寻找即可。

第三步，完整代码

a.腾讯视频评论爬虫:获取”深度解读”评论内容（单页评论爬虫）

b.腾讯视频评论爬虫:获取”深度解读”评论内容（自动切换下一页评论的爬虫）

四、挑战案例

1、第三项练习-中国裁判文书网爬虫实战

目标网站：http://wenshu.court.gov.cn/

需要获取的数据：2018年上海市的刑事案件接下来进入实战讲解。

可以发现没有对应的网页变换，意味着中国裁判文书网换页是通过POST进行请求，对应的变化数据不显示在网址中。通过F12查看网页代码，再换页操作之后，如下图，查看ListContent，其中有几个字段需要了解：

Param:检索条件

Index:页码

Page:每页展示案件数量

…

重要的是最后三个字段（vl5x,number,guid）该如何获取？首先，guid即uuid，叫全球唯一标识，是利用python中的uuid随机生成的字段。其次是number字段，找到ListContent上面的GetCode请求，恰好其Response中包含了number字段的值。而GetCode又是通过POST请求的，发现请求的字段只要guid这一项,那么问题便迎刃而解。

后，难点在于vl5x字段如何获取？打开Fiddler，在换页操作后，查看ListContent中的vl5x的值，并在此次ListContent之前出现的数据包中的TextView里寻找这个字段或值，一般的网站可以很容易找到，但中国裁判文书网是政府网站，反爬策略非常高明，寻找的过程需要极高的耐心。

事实上，中国裁判文书网的vl5x字段可以从某个js包中获得，获取的方式是通过getKey()函数。从网页源代码中找到getKey()函数的js代码，由于代码是packed状态，用unpacked工具，将其进行解码，后利用js界面美观工具可以方便理解。

但无关紧要，只需直接将getKey()函数s代码复制到unpack_js.html中，就可以解出vl5x字段的值，其中需要用到Cookie中的vjkl5字段值。需要注意提前下载好base64.js和md5.js，并在unpack_js.html加载。

第三步，以下是中国裁判文书网爬虫完整代码：

opener.addheaders=[(“Referer”,”http://wenshu.court.gov.cn/list/list/?sorttype=1&conditions=searchWord 1 AJLX 案件类型:刑事案件&conditions=searchWord 2018 裁判年份:2018&conditions=searchWord 上海市法院地域:上海市”)]

urllib.request.install_opener(opener)

#用户代理池

import random

uapools=[

“Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.79 Safari/537.36 Edge/14.14393”,

“Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/49.0.2623.22 Safari/537.36 SE 2.X MetaSr 1.0”,

“Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; Maxthon 2.0)”,

]

#访问首页urllib.request.urlopen(“http://wenshu.court.gov.cn/list/list/?sorttype=1&conditions=searchWord 1 AJLX 案件类型:刑事案件&conditions=searchWord 2018 裁判年份:2018&conditions=searchWord 上海市法院地域:上海市”).read().decode(“utf-8″,”ignore”)