V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
MySQL 5.5 Community Server
MySQL 5.6 Community Server
Percona Configuration Wizard
XtraBackup 搭建主从复制
Great Sites on MySQL
Percona
MySQL Performance Blog
Severalnines
推荐管理工具
Sequel Pro
phpMyAdmin
推荐书目
MySQL Cookbook
MySQL 相关项目
MariaDB
Drizzle
参考文档
http://mysql-python.sourceforge.net/MySQLdb.html
dododada
V2EX  ›  MySQL

mysql 分页计算问题

  •  
  •   dododada · 43 天前 · 1465 次点击
    这是一个创建于 43 天前的主题,其中的信息可能已经有所发展或是发生改变。

    有一次和一个硅谷的哥们儿聊项目,电商类的项目,azure 上跑着。

    他说他们分页有点慢,我问了下分页方法,大概实现如下:

    大概 30%的 hot 数据,全部加载到 redis ,加上多级缓存,缓存没有,再去 mysql 查,mysql 分库分表。

    其中有个神奇的地方,比如排序,按价格排序,每页 20 条,缓存命中了 15 条,由于剩下的 5 条是分散在数据库的,并不知道在哪边,所以他们做了一个算法,准确的计算出这 5 条数据在数据库中的位置,直接 select, 计算会慢一点。

    我以前没有接触过这种用法,数据量大了,搜索直接上 es ,离线分析 clickhouse 一把梭,这种计算的方法,没有遇到过,超出认知了。

    有没有知道这种方法的兄弟,解说一下的?

    或者说电商的分页,和一般社交行业的分页,有什么不一样的地方?

    12 条回复    2024-03-20 00:10:39 +08:00
    seedhk
        1
    seedhk  
       43 天前
    难道他的分库分表依据是根据价格来的?
    oneisall8955
        2
    oneisall8955  
       43 天前 via Android
    维护起来不头痛吗?
    oneisall8955
        3
    oneisall8955  
       43 天前 via Android
    @seedhk 价格会变,不可能用价格分库分表吧
    AlohaV2
        4
    AlohaV2  
       43 天前
    但感觉如果是一个价格的区间,好像可以分?因为一件商品的价格变动,感觉不会超过某个量级。并且一般来说越贵的数量越少。
    sijue
        5
    sijue  
       43 天前
    剩下的五条记录如果有商品 id ,大概率根据商品 id 分表
    PythonYXY
        6
    PythonYXY  
       43 天前
    按价格排序,怎么知道第几页哪些是在缓存中,哪些是在数据库?不是很懂。
    xuanbg
        7
    xuanbg  
       43 天前
    尽量不要分表,数据多了可以把冷数据归档处理。
    yagamil
        8
    yagamil  
       42 天前
    这种算法 在 es ,mongodb 里面的切片里也有用到把,根据分布的位置,比如第 x 个表 x 分区,写到生成的数据的 id 或某个字段里面
    dododada
        9
    dododada  
    OP
       42 天前
    具体的算法我不了解,那个哥们儿说很复杂,算法本身已经影响到查询性能了。

    有没有电商行业的兄弟,来解个惑?

    gpt 说后面的 5 条数据,用 WHERE price > last_record_price 就行 ...
    8355
        10
    8355  
       42 天前
    按照我的理解,不管是 redis sorted set 还是其他什么方案,本质上是按照正确的方式排序并分页,获取到排序之后其实一组分页的商品 id ,之后批量根据商品 id 进行获取商品详情并按顺序返回即可。
    markgor
        11
    markgor  
       42 天前
    据我所知京东淘宝的按价格排序从未正确过
    dyv9
        12
    dyv9  
       24 天前 via Android
    @dododada 忽悠外行人的,或者他本来数据结构与算法只是入门水平。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   886 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 22:23 · PVG 06:23 · LAX 15:23 · JFK 18:23
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.