V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
MySQL 5.5 Community Server
MySQL 5.6 Community Server
Percona Configuration Wizard
XtraBackup 搭建主从复制
Great Sites on MySQL
Percona
MySQL Performance Blog
Severalnines
推荐管理工具
Sequel Pro
phpMyAdmin
推荐书目
MySQL Cookbook
MySQL 相关项目
MariaDB
Drizzle
参考文档
http://mysql-python.sourceforge.net/MySQLdb.html
git00ll
V2EX  ›  MySQL

mysql 批量插入和多行插入 哪种方式更好一点呢 ?

  •  
  •   git00ll · 155 天前 · 1965 次点击
    这是一个创建于 155 天前的主题,其中的信息可能已经有所发展或是发生改变。

    批量插入指的是:

    同一事务内,同一个 PreparedStatement,for 循环,反复赋值提交,最终提交一次事务

    多行插入指的是:

    拼接类似于下面这种语句 insert into table values(x,y,z),(x,y,z),(x,y,z);


    如果需要插入大量数据,使用哪种方式更好呢?

    数据库使用 Mysql

    19 条回复    2021-09-01 13:23:19 +08:00
    yitingbai
        1
    yitingbai   155 天前
    个人觉得多行插入速度更快些
    wolfie
        2
    wolfie   155 天前
    java.sql.Statement#executeBatch
    redcoffeecat
        3
    redcoffeecat   155 天前
    差不多
    kiracyan
        4
    kiracyan   155 天前
    写个代码插个一万行就知道了
    cnoder
        5
    cnoder   155 天前
    多行插入注意下数据上限~有的可能有参数数量上限或者考虑 binlog-row 一时间写入太多~。。但我还是喜欢多行插入
    qwe520liao
        6
    qwe520liao   155 天前
    如果是 MySQL 的话,我以前测试过,在大批量数据插入情况下(数据迁移),关闭以下这些选项插入更快:
    关闭自动提交模式
    关闭索引
    关闭外键检查

    至于 INSERT 语句一次插入一条还是多条,区别在于网络 IO 耗时,在内部速度应该都是一样的,不过返回来想一下,这种合并插入语句更难以维护和编写,除非特殊情况否则不建议这么做。

    详见: https://dev.mysql.com/doc/refman/5.7/en/optimizing-innodb-bulk-data-loading.html
    cnoder
        7
    cnoder   155 天前
    看错了 打扰了,当我没说
    mcoo1997
        8
    mcoo1997   155 天前
    批量插入 写起来爽就完事了
    simonlu9
        9
    simonlu9   155 天前   ❤️ 2
    insert into table values(x,y,z),(x,y,z),(x,y,z); 这个是原子性的,看二进制日志就是开启了一个事务,你试试中间有一条插入失败,全部都会回滚
    cheng6563
        10
    cheng6563   155 天前
    多行插入快得多,但不要一次太多行。
    在 Java 里,批量插入不会提升太多性能,除非你加上 rewriteBatchedStatements=true 参数,这样连接驱动会把你的批量插入转成多行插入。
    xupefei
        11
    xupefei   155 天前 via iPhone
    这两个方案效率一样。
    bthulu
        12
    bthulu   155 天前
    效率一样的, 只不过批量插入兼容多种数据库写法, 但是如果是 java, 用的还是 mybatis, 绝大多数人用的就是多行插入, 因为在 xml 里来个 for 循环标签就搞定了, 而批量插入则复杂的多, 很多人根本不会.
    ChoateYao
        13
    ChoateYao   155 天前
    https://dev.mysql.com/doc/refman/8.0/en/insert-optimization.html

    官方有实际的解释,自己算算开销。
    Cookieeeeee
        14
    Cookieeeeee   155 天前
    批量快,只需要用一个连接,尽管有连接池,我是这么理解的。
    love
        15
    love   155 天前
    以前看过一个评测,印象中多行比批量快得多,至少一倍那种
    rekulas
        16
    rekulas   155 天前
    理论上多行快-前提是不出错和导致阻塞、死锁的情况下

    相对之下单条更安全点,如果是线上高负载的数据库,应该优先考虑单条
    awing
        17
    awing   155 天前
    取决于数据规模吧。批量放在一个事务里,当然好些。

    但是还是要尽可能避免长事务。数据量过大最好也拆成多个事务

    ( me 只会纸上谈兵
    ch2
        18
    ch2   154 天前
    第二种,你看过 mysql 导出的数据库的.sql 脚本就知道了
    yrj
        19
    yrj   87 天前 via iPad
    个人不权威测试:第二种多行会快一丢丢,但第一种批量比较好写代码,所以性能要求不极致的我,选择第一种
    关于   ·   帮助文档   ·   API   ·   FAQ   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   1205 人在线   最高记录 5497   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 18:45 · PVG 02:45 · LAX 10:45 · JFK 13:45
    ♥ Do have faith in what you're doing.