推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
Python 里面 np.savetxt()和 pickle 本地化时，两个性能对比怎么样
DongDongXie · 2018-11-26 17:08:57 +08:00 · 2698 次点击这是一个创建于 2225 天前的主题，其中的信息可能已经有所发展或是发生改变。
如题，数据量比较大，想把一个 ndarray 保存到本地，这两种方法和直接 write 到本地性能相比怎么样，我试了下 savetxt()有点慢，请问大家有什么比较好的方法吗
 |
1
glasslion 2018-11-26 17:20:47 +08:00
试试 Apache Arrow(Apache Parquet Format)
|
 |
2
xpresslink 2018-11-26 18:30:06 +08:00
cPickle 了解一下
|
 |
3
DongDongXie OP @xpresslink 以前用过这个，据说比 pickle 快
|
 |
4
deepreader 2018-11-27 11:47:00 +08:00
massage pack 了解一下
|
 |
5
wwqgtxx 2018-11-27 15:22:36 +08:00
|
|
6
wwqgtxx 2018-11-27 15:48:44 +08:00
其实还有一些蹊跷意淫的办法，比如你先 pickle 保存 ndarray 的 dtype size shape 三个属性，然后用 memcpy 直接保存 ndarray 的 data，那是一个 memoryview 对象，你可以用 mmap 或者直接 file.write 保存进文件，读的时候用 np.frombuffer 或者 np.fromstring 读进来后 reshape 一下就好了（ frombuffer 的话最后需要 copy 一下，否则当原 buffer 对象失效之后会出问题，当然如果你原 buffer 对象是从 mmap 获得的话那也没事，而且后续对该 ndarray 的修改还能用过 mmap.flush 写回硬盘）
|
Select Language