项目管道

2022-2-21 06:08| 发布者: 笨鸟自学网| 查看: 4138| 评论: 0

摘要: 在一个项目被蜘蛛抓取之后，它被发送到项目管道，该管道通过几个按顺序执行的组件来处理它。每个项管道组件（有时称为“项管道”）都是一个实现简单方法的Python类。它们接收一个项目并对其执行操作，还决定该项目是 ...

在一个项目被蜘蛛抓取之后，它被发送到项目管道，该管道通过几个按顺序执行的组件来处理它。

每个项管道组件（有时称为“项管道”）都是一个实现简单方法的Python类。它们接收一个项目并对其执行操作，还决定该项目是否应继续通过管道，或者是否应删除并不再处理。

项目管道的典型用途有：

编写自己的项目管道¶

每个item pipeline组件都是一个python类，必须实现以下方法：

process_item(self, item, spider)¶

对每个项管道组件调用此方法。

item 是一个 item object 见支持所有项目类型 .

process_item() 必须：返回 item object 返回A Deferred 或提高 DropItem 例外。

丢弃的项目不再由其他管道组件处理。

参数

此外，它们还可以实现以下方法：

open_spider(self, spider)¶

当spider打开时调用此方法。

close_spider(self, spider)¶

当spider关闭时调用此方法。

from_crawler(cls, crawler)¶

如果存在，则调用此ClassMethod从 Crawler . 它必须返回管道的新实例。爬虫对象提供对所有零碎核心组件（如设置和信号）的访问；它是管道访问它们并将其功能连接到零碎的一种方式。

上一篇：Scrapy shell下一篇：Feed 导出

		自动登录	找回密码
密码			立即注册