合 Oracle同步数据到GreenPlum
Tags: OracleGreenPlumOGG数据迁移实时同步增量同步数据库迁移
简介
GreenPlum是一个基于PostgreSQL数据库开发的MPP架构的数据库仓库,适用于OLAP系统,支持50PB(1PB=1000TB)级海量数据的存储和处理。
方案
1、通过OGG for BigData迁移同步增量数据
2、ora2pg工具
一个示例
背景:
目前有一个业务是需要将Oracle数据库中的基础数据增量同步到GreenPlum数据仓库,便于进行数据分析和处理。
规模:
每天产生60G左右数据,最大的表每天新增上亿条数据。
解决方法:
1)历史数据通过抽取导入的方式进行初始化。
2)增量更新数据:
使用GoldenGate将Oracle日志解析,传给GreenPlum所在的节点。
GreenPlum节点通过程序将GoldenGate解析的日志记录增量同步到GreenPlum数据库仓库中。
最终结果:
1.初始化数据一次大概三天时间,初始化5T左右数据。