DBSyncer-数据同步
说明
DBSyncer是一款开源的数据同步中间件,提供Mysql、Oracle、SqlServer、Elasticsearch(ES)、Kafka、SQL等同步场景。支持上传插件自定义同步转换业务,提供监控全量和增量数据统计图、应用性能预警等
特点
- 组合驱动,自定义库同步到库组合,关系型数据库与非关系型之间组合,任意搭配表同步映射关系
- 实时监控,驱动全量或增量实时同步运行状态、结果、同步日志和系统日志
- 开发插件,自定义转化同步逻辑
应用场景
连接器 | 数据源 | 目标源 | 支持版本(包含以下) |
---|---|---|---|
Mysql | ✔ | ✔ | 5.7.19以上 |
Oracle | ✔ | ✔ | 10g以上 |
SqlServer | ✔ | ✔ | 2008以上 |
ES | ✔ | ✔ | 6.X以上 |
Kafka | 开发中 | ✔ | 2.10-0.9.0.0以上 |
SQL | ✔ | ||
最近计划 | PostgreSQL(设计中)、Redis |
开源地址
https://gitee.com/ghi/dbsyncer
教程
DBSyncer中间件Mysql同步Elasticsearch(ES)配置教程
注意
- 源和目标数据结构字段名尽量一致,可读性更好
- 源和目标主键字段名必须一致,尽量都使用 id【非必需】
问题
配置驱动- sqlserver 同步到 es 提示 索引为空
答案:一种情况 - sqlserver 源表主键字段名 与 es 索引库 主键字段名不一致
本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来自 王文哲的博客!