如何利用Scrapy爬虫框架抓取网页全部文章信息（上篇）

 前一阶段我们已经实现了通过Scrapy抓取某一具体网页页面的具体信息，关于Scrapy爬虫框架中meta参数的使用示例演示(上)、关于Scrapy爬虫框架中meta参数的使用示例演示(下)，但是未实现对所有页面的依次提取。首先我们理一下爬取思路，大致思想是：当获取到第一个页面的URL之后，尔后将第二页的URL发送给Scrapy，让Scrapy去自动下载该网页的信息，之后通过第二页的URL继续获取第三页的URL，由于每一页的网页结构是一致的，所以通过这种方式如此反复进行迭代，便可以实现整个网页中的信息提取。其具体的实现过程将通过Scrapy框架来进行实现，具体的教程如下。

创新互联是一家专业提供革吉企业网站建设,专注与做网站、成都做网站、HTML5建站、小程序制作等业务。10年已为革吉众多企业、政府机构等服务。创新互联专业网站制作公司优惠进行中。

/具体实现/

1、首先URL不再是某一篇具体文章的URL了，而是所有文章列表的URL，如下图所示，将链接放到start_urls里边，如下图所示。

2、接下来我们将需要更改parse()函数，在这个函数中我们需要实现两件事情。

其一是获取某一页面所有文章的URL并对其进行解析，获取每一篇文章里的具体网页内容，其二是获取下一个网页的URL并交给Scrapy进行下载，下载完成之后再交给parse()函数。

有了之前的Xpath和CSS选择器基础知识之后，获取网页链接URL就变得相对简单了。

[[351630]]

3、分析网页结构，使用网页交互工具，我们可以很快的发现每一个网页有20篇文章，即20个URL，而且文章列表都存在于id="archive"这个标签下面，之后像剥洋葱一样去获取我们想要的URL链接。

4、点开下拉三角，不难发现文章详情页的链接藏的不深，如下图圈圈中所示。

5、根据标签我们按图索骥，加上选择器利器，获取URL犹如探囊取物。在cmd中输入下图命令，以进入shell调试窗口，事半功倍。再次强调，这个URL是所有文章的网址，而不是某一篇文章的URL，不然后面你调试半天都不会有结果的。

6、根据第四步的网页结构分析，我们在shell中写入CSS表达式，并进行输出，如下图所示。其中a::attr(href)的用法很巧妙，也是个提取标签信息的小技巧，建议小伙伴们在提取网页信息的时候可以经常使用，十分方便。

至此，第一页的所有文章列表的URL已经获取到了。提取到URL之后，如何将其交给Scrapy去进行下载呢?下载完成之后又如何调用我们自己定义的解析函数呢?

欲知后事如何，且听下一篇文章分解。

/小结/

本文主要介绍了Scrapy爬虫框架抓取其中某个网页数据的理论，为后面抓取全网数据埋下伏笔，更精彩的操作在下篇文章奉上，希望对大家的学习有帮助。

想学习更多关于Python的知识，可以参考学习网址：http://pdcfighting.com/，点击阅读原文，可以直达噢~

网站题目：如何利用Scrapy爬虫框架抓取网页全部文章信息（上篇）
分享路径：http://www.shufengxianlan.com/qtweb/news5/108505.html

网站建设、网络推广公司-创新互联，是专注品牌与效果的网站制作，网络营销seo公司；服务项目有等

广告

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源： 创新互联