首页   注册   登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python 学习手册
Python Cookbook
Python 基础教程
Python Sites
PyPI - Python Package Index
http://www.simple-is-better.com/
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
宝塔
V2EX  ›  Python

pandas 如何使用已成了 str 的 html 代码?

  •  
  •   qazwsxkevin · 186 天前 · 1040 次点击
    这是一个创建于 186 天前的主题,其中的信息可能已经有所发展或是发生改变。

    刚开始,思路笨拙。。。望请各位高手提点了。。。
    单位内网有些页面,是靠 javascript 用几个页面开关按钮,触发功能,渲染成不同表格内容,我现在要爬它全部。(在企业的内网里,给了 URL 大家都看不到)

    我打算思路是这样的:
    用 selenium 的 webdriver,模拟几个操作,获取各个开关触发后把渲染后的 webdriver.page____source
    存成 htmlstr1,htmlstr2,htmlstr3,htmlstr4,htmlstr5 这样,然后按计划被正则处理,或者做其它什么的

    以前用 pandas 在处理简单页面的时候,

    import pandas as pd
    PageDF = pd.DataFrame()
    PageDF = PageDF.append(pd.read_html("http://10.4.8.231/PannelView.html")[7],ignore_index=True)
    PageDF.to_csv('C:/Users/Administrator/Desktop/csv/PannelData.csv',encoding="utf_8_sig")

    但是按照目前的知识认知,pd.read_html()只能接受 url,不能接受(str)htmlstr1

    那么 pandas 如何处理 str 内容是 html 代码的数据呢?

    5 回复  |  直到 2019-05-16 10:44:09 +08:00
        1
    binux   186 天前 via iPhone
    stringIO
        2
    qazwsxkevin   186 天前
    @binux 谢谢,百度了一下,似乎 stringIO 是个好东西。。。,

    在我的这个案例上,不知道是否有相似的例子看看了。。。
        3
    qinghon   186 天前 via Android
    那么问题是为什么不获取原始数据呢,把原始数据获取了再用 webdriver 的 js 转成 csv 再用 pandas 转成你要的数据,你不会觉得中间过程没有必要吗
        4
    qazwsxkevin   186 天前
    @qinghon,解释一下为什么要做 htmlstr[1-5],是因为服务器做了行为监测,我目前想到的办法只能一次 load 完页面,存成 5 个渲染后的 html 的 str,如果每个操作都要 webdriver 去 get(url),会有些麻烦,不是技术上的问题,只是为了避开一些事情
        5
    ec0   185 天前
    read_html() function can accept an HTML string/file/URL

    read_html 可以接收 string
    关于   ·   FAQ   ·   API   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   784 人在线   最高记录 5043   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.3 · 27ms · UTC 22:39 · PVG 06:39 · LAX 14:39 · JFK 17:39
    ♥ Do have faith in what you're doing.