V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
MySQL 5.5 Community Server
MySQL 5.6 Community Server
Percona Configuration Wizard
XtraBackup 搭建主从复制
Great Sites on MySQL
Percona
MySQL Performance Blog
Severalnines
推荐管理工具
Sequel Pro
phpMyAdmin
推荐书目
MySQL Cookbook
MySQL 相关项目
MariaDB
Drizzle
参考文档
http://mysql-python.sourceforge.net/MySQLdb.html
qwzhang01
V2EX  ›  MySQL

一张主表了, 6 个字表,主表和字表的关系都是多对一的查询优化问题

  •  
  •   qwzhang01 · 93 天前 · 912 次点击
    这是一个创建于 93 天前的主题,其中的信息可能已经有所发展或是发生改变。

    一张主表了,6 个字表,主表和字表的关系都是一对多 查询主表的时候,要把所有子表信息都查出来,目前是先查主表,然后循环为每个主表查对应的字表 list ,再将 list 赋值给主表的 dto ,主表大概 300 万的数据量,单个子表 1200 万的数据 目前查询比较慢,好的优化思路是什么呢

    6 条回复    2022-05-17 12:52:24 +08:00
    RedBeanIce
        1
    RedBeanIce  
       92 天前 via iPhone
    来点代码
    nothingistrue
        2
    nothingistrue  
       92 天前
    要么归档历史数据减小数据量,要么在业务逻辑上拆能 7 个主表。这么大的数据量,你优化也最多 10 小时变半小时的程度,都不会满足实时查询。
    dqzcwxb
        3
    dqzcwxb  
       92 天前
    第一步串行改并行,先查主表然后并行查子表
    第二步优化短板,将子表查询耗时倒序一个个优化
    第三步适当建立缓存,可以是持久层缓存也可以是业务层函数缓存甚至接口缓存都可以业务不允许则不使用缓存,请自行判断
    cheng6563
        4
    cheng6563  
       92 天前
    子表能缓存的话,带上缓存串行改并行就行了。
    不能缓存直接 join 吧让数据库自己优化去。
    RedBeanIce
        5
    RedBeanIce  
       92 天前
    然后循环为每个主表查对应的字表 list ,再看看数据量

    理论上可以,将主表的数据查出来,比如查出 200 条主表数据。(一次性查太多主表数据会导致主表和子表数据大对象)
    然后直接获取主表的 idlist
    将 idlist 同时查多个子表,获取子表的所有数据
    最后等所有子表数据返回,塞到主表 list 里面去。
    over

    严禁循环查库
    potatowish
        6
    potatowish  
       92 天前 via iPhone
    1.并行查子表
    2.查子表关联主表去查,不要循环查库
    关于   ·   帮助文档   ·   API   ·   FAQ   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   1882 人在线   最高记录 5497   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 32ms · UTC 16:54 · PVG 00:54 · LAX 09:54 · JFK 12:54
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.