V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
moxiaowei
V2EX  ›  Python

scrapy 的问题

  •  
  •   moxiaowei · 2018-11-09 22:03:23 +08:00 · 2022 次点击
    这是一个创建于 2209 天前的主题,其中的信息可能已经有所发展或是发生改变。
    Crawled 98 pages (at 1 pages/min), scraped 0 items (at 0 items/min) 这句话是什么意思?特别是 “ at 1 pages/min ”,和“ at 0 items/min ”是什么意思?
    4 条回复    2018-11-10 10:37:20 +08:00
    Trim21
        1
    Trim21  
       2018-11-09 22:19:33 +08:00
    这分钟(两次 log 的 1 分钟间隔)里爬了一个网页, 处理了 0 个 item....
    moxiaowei
        2
    moxiaowei  
    OP
       2018-11-09 22:21:53 +08:00
    @Trim21 什么叫两次 log 的一分钟间隔里?是不是类似下面的 log

    2018-11-09 22:20:26 [scrapy.extensions.logstats] INFO: Crawled 99 pages (at 2 pages/min), scraped 0 items (at 0 items/min)
    2018-11-09 22:20:28 [scrapy.core.engine] DEBUG:
    Trim21
        3
    Trim21  
       2018-11-09 22:25:51 +08:00
    @moxiaowei #2 你把 log-level 设置成 info 就看出来了
    moxiaowei
        4
    moxiaowei  
    OP
       2018-11-10 10:37:20 +08:00
    @Trim21 好的 谢谢你
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1327 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 18:11 · PVG 02:11 · LAX 10:11 · JFK 13:11
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.