V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
marenight
V2EX  ›  问与答

求助一个爬虫问题,实在搞不定

  •  
  •   marenight · 2017-09-24 16:31:00 +08:00 · 1236 次点击
    这是一个创建于 2377 天前的主题,其中的信息可能已经有所发展或是发生改变。

    想要爬取 cnki 的科研项目数据库 http://projects.cnki.net/approvalitem.aspx ,然后抠出来的这个页面的第一页 http://projects.cnki.net/Asynch/GetData.ashx?ac=ca&f=2&sc=ApprovalItem&_=1505991481639 是可以爬的,而这个页面 http://projects.cnki.net/Asynch/GetData.ashx?id=ApprovalItem&sc=ApprovalItem&cf=%2FCoreResources%2FConfigFolder%2FListView%2FListView.xml&ps=100&ac=Page&cp=1&_=1505986760956 可以在浏览器里打开,但是放到爬虫里就啥都没有。

    关于网络和 js 的知识太匮乏,实在不知道问题出在哪里。求助。

    3 条回复    2017-09-24 20:16:03 +08:00
    lhx2008
        1
    lhx2008  
       2017-09-24 16:35:41 +08:00
    带了 cookie session 之类的吧,我直接开业开不了
    whwq2012
        2
    whwq2012  
       2017-09-24 20:01:41 +08:00 via Android   ❤️ 1
    你需要 postman
    a87150
        3
    a87150  
       2017-09-24 20:16:03 +08:00   ❤️ 1
    ASP.NET_SessionId=ora3gjhezp3umgzm0g5vutpf

    要这个 cookie
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   3815 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 05:07 · PVG 13:07 · LAX 22:07 · JFK 01:07
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.