如何爬取美国借贷平台 Prosper 的完整借贷数据

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

推荐学习书目

› Learn Python the Hard Way

Python Sites

› PyPI - Python Package Index

› http://diveintopython.org/toc/index.html

› Pocoo

值得关注的项目

› PyPy

› Celery

› Jinja2

› Read the Docs

› gevent

› pyenv

› virtualenv

› Stackless Python

› Beautiful Soup

› 结巴中文分词

› Green Unicorn

› Sentry

› Shovel

› Pyflakes

› pytest

Python 编程

› pep8 Checker

Styles

› PEP 8

› Google Python Style Guide

› Code Style from The Hitchhiker's Guide

这是一个创建于 2712 天前的主题，其中的信息可能已经有所发展或是发生改变。

这个是官方给的API 地址，但是我在使用这个 api 的时候只会给我返回总计一百多条数据，剩下的数据就获取不到了。

我用的是“/listingsvc/v2/listings/?limit=25 ”这个接口，设置了 offset 也没有用，传过来的数据量很少；所以我想问问是不是我用的接口不对？还是说官方接口需要什么特别的权限？

希望论坛有 prosper 爬取经验的大神能解疑一下，谢谢啦

prosper

借贷

接口

listings

6 条回复 • 2017-06-30 13:29:54 +08:00

aabbccli

2017-06-23 17:50:49 +08:00

为 PROSPER 提供数据的 Experian 不是被连锅端了么？

fuermosi777

2017-06-24 04:01:18 +08:00

我以前工作的公司....

ziyo12580

2017-06-24 13:37:36 +08:00

@fuermosi777 那请问你对公司数据 api 接口这方面有了解吗？

ziyo12580

2017-06-24 13:37:59 +08:00

@aabbccli 所以说是取不到了么。。。

eyp82

2017-06-28 02:28:01 +08:00 via iPhone

人家加了反爬虫啊，你真想爬的话，复盘一下你的流程，看看跟真实用户有哪些不一样的，尽量模拟呗

ziyo12580

2017-06-30 13:29:54 +08:00

已经查明原因了，对外提供的开放接口只能获取到当天的数据，历史数据想要获取的话需要找 prosper 官方，签署一个协议之后才能获取