 |
bighead22V2EX member #370427, joined on 2018-12-14 14:39:19 +08:00 |
 |
Per bighead22's settings, the topics list is hidden |
Deals info, including closed deals, is not hidden
bighead22's recent replies
Dec 9, 2020 Replied to a topic by wendongZheng › 程序员 › 发现了一个神奇的爬虫靶场网站。有没有人玩过这个爬虫 JS 攻防网站？ |
听说过，之前这个搞过爬虫对抗比赛，难度还可以
May 15, 2019 Replied to a topic by bighead22 › Python › 如何让爬虫一天抓取 100 万张网页 |
@caneman 反爬不错的网站，单 ip 爬不到这么多次。 降低单 IP 的单位时间抓取次数，有可能爬这么多。 但是这样单 IP 的抓取效率就太低了
May 14, 2019 Replied to a topic by bighead22 › Python › 如何让爬虫一天抓取 100 万张网页 |
@liuxu 嗯，也可以这样。根据项目的选择来。 有的需要原始数据。另外直接提取有可能某些 html tag 确实 或者匹配规则没考虑周全，可能会大面积出现提取错误
May 14, 2019 Replied to a topic by bighead22 › Python › 如何让爬虫一天抓取 100 万张网页 |
@CloudMx 是的，这个方法可以
May 13, 2019 Replied to a topic by bighead22 › Python › 如何让爬虫一天抓取 100 万张网页 |
@Northxw 瑞幸 哈哈
Jan 10, 2019 Replied to a topic by bighead22 › Python › 通过 robots.txt 的 sitemap 来抓取一个网站当天新产生的 URL 很方便 |
这算不算是个骚操作？
Jan 10, 2019 Replied to a topic by wlkstc › Python › 上海有没有推荐得 线下 Python 班？ |
Python 自学吧
Jan 10, 2019 Replied to a topic by Jialin › Python › [开源] 12306 分布式购票助手 |
这个会不会被国家有关部门查啊
Jan 10, 2019 Replied to a topic by codebear01 › 程序员 › 87 年老人，有什么渠道实现微创业吗？ |
同问
Jan 6, 2019 Replied to a topic by simoncos › 程序员 › 这样刷 LeetCode 会不会比较有价值？ |
可以啊，自己做个博客，把这些记录在你的博客上，以后说不定能有不错流量
Select Language