Loader 使用文档

2017-01-10 19:11:17 +08:00
 PingCAP

Loader 是什么

Loader 是由 PingCAP 开发的数据导入工具,可以用于向 TiDB 中导入数据,也可以用于向 MySQL 中导入数据。本篇文章将详细介绍 Loader 的使用方法。

为什么我们要做这个东西

当数据量比较大的时候,如果用 mysqldump 这样的工具迁移数据会比较慢。我们尝试了 Percona 的 mydumper/myloader 套件,能够多线程导出和导入数据。在使用过程中, mydumper 问题不大,但是 myloader 由于缺乏出错重试、断点续传这样的功能,使用起来很不方便。所以我们开发了 loader ,能够读取 mydumper 的输出数据文件,通过 mysql protocol 向 TiDB/MySQL 中导入数据。

Loader 有哪些优点

多线程导入 支持 mydumper 数据格式 出错重试 断点续导 通过 system variable 优化 TiDB 导入数据速度

使用方法

参数说明

配置文件

除了使用命令行参数外,还可以使用配置文件来配置,配置文件的格式如下:

使用示例

通过命令行参数:

./bin/loader -d ./test -h 127.0.0.1 -u root -P 4000

或者使用配置文件 "config.toml":

./bin/loader -c=config.toml

注意事项

如果使用默认的 checkpoint 文件,在导完一个 database 数据后,请删除 loader.checkpoint 后再开始导入下一个 database 。推荐每个数据库导入的时候,明确指定 checkpoint 文件名。

655 次点击
所在节点    数据库
3 条回复
mingyun
2017-01-10 23:21:07 +08:00
也不提供下安装文档
PingCAP
2017-01-11 14:01:28 +08:00
@mingyun 我们是开源在 github 上的,相关内容均可在 github 主页上找~源码地址: https://github.com/pingcap/tidb
PingCAP
2017-01-11 14:01:38 +08:00

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/333682

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX