首页   注册   登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python 学习手册
Python Cookbook
Python 基础教程
Python Sites
PyPI - Python Package Index
http://www.simple-is-better.com/
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
宝塔
V2EX  ›  Python

scrapy 使用什么方式管理任务队列,如何指定域名进行定时清除? [V 币感谢]

  •  
  •   akmonde · 355 天前 · 1229 次点击
    这是一个创建于 355 天前的主题,其中的信息可能已经有所发展或是发生改变。

    RT,我想知道基础 scrapy 是如何管理队列的,我大致猜测是根据自带的队列池,并不依赖任何中间件。

    我的需求是:

    一旦达到特定条件,清除指定域名的队列,不再爬含有该域名的 url。
    比如达到某个访问频次,就根据域名去清除该域名的所有爬行请求,但不影响爬行队列里已经存在的含有其他域名的 url。
    

    我这边现在的情况是,根据文本 txt,喂给 scrapy 一部分 url,其中包含多个域名。

    由于一些特殊情况,不是很方便用 redis 挨个 push url,好像这个也不太好根据域名去清除 url 队列,不过实在要用也请大家给个方案。

    第 1 条附言  ·  354 天前
    另外,我自己在触发时,手动修改 self.allowed_domains。
    经过后续的多次打印,发现 self.allowed_domains 已经移除了该域名( self.allowed_domains 此时不为空),scrapy 结果还是在继续爬,压根没有停的意思。
    很僵硬,有没有大佬有新点子。
    4 回复  |  直到 2018-11-29 12:40:56 +08:00
        1
    WilliamYang   354 天前
    你可以写个 Downloader Middleware, 然后在处理 request 时根据你的条件判断, 如果不满足就抛弃
        2
    WaJueJiPrince   354 天前
    Scrapy-Redis 有个功能是动态切换域名,不知道是不是你想要的。
        3
    akmonde   354 天前
    @WilliamYang 中间件不满足抛弃的话,我那边也做了,但还是在爬触发了我条件的网站,不会停下对该域名的爬行的。
        4
    akmonde   354 天前
    @WaJueJiPrince 不知道您说的是不是这个:
    ```
    #动态域范围的获取
    def __init__(self, *args, **kwargs):
    # Dynamically define the allowed domains list.
    domain = kwargs.pop('domain', '')
    self.allowed_domains = filter(None, domain.split(','))
    super(MySpider, self).__init__(*args, **kwargs)
    ```
    我这边需要是的是条件触发清除指定域名的队列,好像跟这个不太符合。
    关于   ·   FAQ   ·   API   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   3711 人在线   最高记录 5043   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.3 · 26ms · UTC 01:10 · PVG 09:10 · LAX 17:10 · JFK 20:10
    ♥ Do have faith in what you're doing.