Scrapy是一个快速、高层次的屏幕抓取和web抓取的框架,可用于数据挖掘、监测和自动化检测,任何人都可以根据需要去进行修改。
1.Scrapy引擎(Scrapy Engine
):负责控制数据流在系统的所以组件中的流动,并在相应动作发生时触发事件。
2.调度器(Scheduler
):从引擎接受reques并将其入队,便于以后请求它们提供给引擎。
3.下载器(Downloader
):负责获取网页数据并且提供给引擎,然后提供给Spider。
4.Spiders
: 指Scrapy用户编写用于分析response并且提取item或额外跟进的URL类人。每个Spider负责处理一些特定网站。
5.Item Pipeline
:负责处理被Spider提取出来的item。典型的处理有清洁、验证及持久化
6.下载器中间件(Downloader Middlewares
):指在引擎及下载器之间的特定钩子(specific hook
),处理Downloader 传递给引擎的response。它提供一个简便的机制,通过插入自定义代码来扩展Scrapy功能。
7.Spiders中间件(Spider Middlewares
):指在引擎及Spider之间的特定钩子(specific hook
),处理Spider 的输入(response
)和输出(items
及requests
)。它提供一个简便的机制,通过插入自定义代码来扩展Scrapy功能。
1.引擎向spider要URL
2.引擎将要爬取的URL给调度器
3.调度器会将URL生成请求对象放入指定的队列中
4.从队列中出队一个请求
5.引擎将请求交给下载器进行处理
6.下载器发送请求获取互联网数据
7.下载器将数据返回给引擎
8.引擎将数据再次给到spiders
9.spiders通过xpath解析该数据,得到数据或URL
10.spiders将数据或URL给到引擎
11.引擎判断该数据是URL还是数据,交给管道处理,URL交给调度器处理
12.当调度器里没有任何数据之后,整个程序停止
下面是我根据工作原理画的可以结合去看:
本篇文章就到这里了,希望能够给你带来帮助,也希望您能够多多关注的更多内容!