V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
QGabriel
V2EX  ›  Python

Python 读取 txt 数据存 mangodb

  •  
  •   QGabriel · 6 天前 · 1093 次点击
    我现在的读取存方法太慢了,希望大佬能给点建议提升效率.

    def file_name(url):
    for root, dirs, files in os.walk(url):
    for i in range(len(files)):
    f = open('c:/test/txt/file/' + files[i][:files[i].index('.txt')] + '.txt')
    next(f)
    for j in f:
    res = j.split(' ')
    obj = {}
    for k in res:
    if len(res) > 2:
    obj = {
    "trade_date": res[0],
    "time": res[1],
    "open": float(res[2]) if res[2] else '',
    "high": float(res[3]) if res[3] else '',
    "low": float(res[4]) if res[4] else '',
    "close": float(res[5]) if res[5] else '',
    "vol": float(10)
    }
    if obj and obj['trade_date'] != '':
    name = files[i][:files[i].index('.txt')]
    origin = client['abc'][name]
    origin.insert_one(obj)
    # print()
    print(i, files[i][:files[i].index('.txt')], 'end')

    file_name('c:/test/txt/file/')



    txt 文件:
    B2210 豆二 2210 1 分钟线 前复权
    日期 时间 开盘 最高 最低 收盘 成交量 持仓量 结算价
    20211025 0901 3853 3853 3853 3853 0 0 0
    7 条回复    2022-08-05 10:39:04 +08:00
    kaedeair
        1
    kaedeair  
       6 天前
    任务切块扔进程池
    tairan2006
        2
    tairan2006  
       6 天前   ❤️ 1
    你不要一条一条插啊…批量写入
    CaptainD
        3
    CaptainD  
       5 天前
    用 pandas 批量处理 txt ,然后批量构建 obj ,再插入,然后再分块多进程,这个思路是不是好点
    vhysug01
        4
    vhysug01  
       5 天前
    这类型数据我存过,用的是 bcolz 存的,文件形式落盘
    httplife
        5
    httplife  
       5 天前
    空白键换成 , 另存为 csv. 然后 import?
    root000
        6
    root000  
       5 天前
    https://www.mongodb.com/docs/database-tools/mongoimport/

    可以试试官方的工具 但是需要转下文件格式 目前只支持 JSON, CSV, or TSV

    目前在用这个来导
    SenLief
        7
    SenLief  
       5 天前
    把 txt 先整成 csv ,那就效率高了。
    关于   ·   帮助文档   ·   API   ·   FAQ   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   4006 人在线   最高记录 5497   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 01:29 · PVG 09:29 · LAX 18:29 · JFK 21:29
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.