|
|
|
|
公众号矩阵

实时监视同步数据库变更,这个框架真是神器

我们数据库中的数据一直在变化,有时候我们希望能监听数据库数据的变化并根据变化做出一些反应,比如更新对应变化数据的缓存、增量同步到其它数据源、对数据进行检测和审计等等。而这种技术就叫变更数据捕获(Change Data Capture)。

作者:码农小胖哥来源:码农小胖哥|2021-06-03 21:54

我们数据库中的数据一直在变化,有时候我们希望能监听数据库数据的变化并根据变化做出一些反应,比如更新对应变化数据的缓存、增量同步到其它数据源、对数据进行检测和审计等等。而这种技术就叫变更数据捕获(Change Data Capture)。对于这种技术我们可能知道一个国内比较知名的框架Canal,非常好用!但是Canal有一个局限性就是只能用于Mysql的变更数据捕获。今天来介绍另一种更加强大的分布式CDC框架Debezium。

Debezium

提起Debezium这个框架,相信大多数普通开发者都比较陌生,但是提及它所属的公司大家一定不会陌生。

红帽公司

没错就是开源界最成功的红帽公司。Debezium是为捕获数据更改的流式处理框架,开源免费。Debezium近乎实时地监控数据库行级别(row-level)的数据变更,并针对变更可以做出反应。而且只有已提交的变更才是可见的,所以不用担心事务问题或者更改被回滚的问题。Debezium为所有的数据库更改事件提供了一个统一的模型,所以不用担心每种数据库系统的复杂性。Debezium提供了对MongoDB、MySQL、PostgreSQL、SQL Server、Oracle、DB2等数据库的支持。

另外借助于Kafka Connector可以开发出一个基于事件流的变更捕获平台,具有高容错率和极强的扩展性。

Debezium Kafka 架构

如图所示,部署了用于 MySQL 和 PostgresSQL 的 Debezium Kafka连接器以捕获对这两种类型数据库的更改事件,然后将这些更改通过下游的Kafka Connector将记录传输到其他系统或者数据库(例如 Elasticsearch、数据仓库、分析系统)或缓存。

另一种玩法就是将Debezium内置到应用程序中,来做一个类似消息总线的设施,将数据变更事件传递给订阅的下游系统中。

Debezium内置服务器架构

Debezium对数据的完整性和可用性也是做了不少的工作。Debezium用持久化的、有副本备份的日志来记录数据库数据变化的历史,因此,你的应用可以随时停止再重启,而不会错过它停止运行时发生的事件,保证了所有的事件都能被正确地、完全地处理掉。

稍后我会演示一个Spring Boot集成Debezium的数据捕获系统。

Spring Boot集成Debezium

理论介绍并不能让你直观感受到Debezium的能力,所以接下来我将使用嵌入式Debezium引擎来演示一下。

流程图

如上图所示,当我们变更MySQL数据库中的某行数据时,通过Debezium实时监听到binlog日志的变化触发捕获变更事件,然后获取到变更事件模型,并做出响应(消费)。接下来我们来搭建环境。

MySQL开启binlog日志

为了方便这里使用MySQL的Docker容器,对应的脚本为:

  1. # 运行mysql容器  
  2. docker run --name mysql-service -v d:/mysql/data:/var/lib/mysql -p 3306:3306 -e TZ=Asia/Shanghai -e MYSQL_ROOT_PASSWORD=123456 -d mysql:5.7 --character-set-server=utf8mb4 --collation-server=utf8mb4_unicode_ci --default-time_zone="+8:00" 
  3. # 设置binlog位置 
  4. docker exec mysql-service bash -c "echo 'log-bin=/var/lib/mysql/mysql-bin' >> /etc/mysql/mysql.conf.d/mysqld.cnf" 
  5. # 配置 mysql的server-id 
  6. docker exec mysql-service bash -c "echo 'server-id=123454' >> /etc/mysql/mysql.conf.d/mysqld.cnf" 

上面的脚本运行了一个用户名为root、密码为123456并且将数据挂载到本地路径d:/mysql/data的MySQL容器,同时开启了binlog日志,并设置server-id为123454,这些信息后面配置会用。

请注意如果不使用root用户的话,需要保证用户具有SELECT, RELOAD, SHOW DATABASES, REPLICATION SLAVE, REPLICATION CLIENT四种权限。

Spring Boot集成嵌入式Debezium

Debezium依赖

Spring Boot的应用中加入下列依赖:

  1. <dependency> 
  2.      <groupId>io.debezium</groupId> 
  3.      <artifactId>debezium-api</artifactId> 
  4.      <version>${debezium.version}</version> 
  5.  </dependency> 
  6.  <dependency> 
  7.      <groupId>io.debezium</groupId> 
  8.      <artifactId>debezium-embedded</artifactId> 
  9.      <version>${debezium.version}</version> 
  10.  </dependency> 
  11.  <dependency> 
  12.      <groupId>io.debezium</groupId> 
  13.      <artifactId>debezium-connector-mysql</artifactId> 
  14.      <version>${debezium.version}</version> 
  15.  </dependency> 

目前最新的版本号为1.5.2.Final。

声明配置

然后声明需要的配置:

  1. /** 
  2.      * Debezium 配置. 
  3.      * 
  4.      * @return configuration 
  5.      */ 
  6.     @Bean 
  7.     io.debezium.config.Configuration debeziumConfig() { 
  8.         return io.debezium.config.Configuration.create() 
  9. //            连接器的Java类名称 
  10.                 .with("connector.class", MySqlConnector.class.getName()) 
  11. //            偏移量持久化,用来容错 默认值 
  12.                 .with("offset.storage""org.apache.kafka.connect.storage.FileOffsetBackingStore"
  13. //                偏移量持久化文件路径 默认/tmp/offsets.dat  如果路径配置不正确可能导致无法存储偏移量 可能会导致重复消费变更 
  14. //                如果连接器重新启动,它将使用最后记录的偏移量来知道它应该恢复读取源信息中的哪个位置。 
  15.                 .with("offset.storage.file.filename""C:/Users/n1/IdeaProjects/spring-boot-debezium/tmp/offsets.dat"
  16. //                捕获偏移量的周期 
  17.                 .with("offset.flush.interval.ms""6000"
  18. //               连接器的唯一名称 
  19.                 .with("name""mysql-connector"
  20. //                数据库的hostname 
  21.                 .with("database.hostname""localhost"
  22. //                端口 
  23.                 .with("database.port""3306"
  24. //                用户名 
  25.                 .with("database.user""root"
  26. //                密码 
  27.                 .with("database.password""123456"
  28. //                 包含的数据库列表 
  29.                 .with("database.include.list""etl"
  30. //                是否包含数据库表结构层面的变更,建议使用默认值true 
  31.                 .with("include.schema.changes""false"
  32. //                mysql.cnf 配置的 server-id 
  33.                 .with("database.server.id""123454"
  34. //                 MySQL 服务器或集群的逻辑名称 
  35.                 .with("database.server.name""customer-mysql-db-server"
  36. //                历史变更记录 
  37.                 .with("database.history""io.debezium.relational.history.FileDatabaseHistory"
  38. //                历史变更记录存储位置  
  39.                 .with("database.history.file.filename""C:/Users/n1/IdeaProjects/spring-boot-debezium/tmp/dbhistory.dat"
  40.                 .build(); 
  41.     } 

配置分为两部分:

  • 一部分是Debezium Engine的配置属性,参见Debezium Engine配置[1]。
  • 一部分是Mysql Connector的配置属性,参见Mysql Connector配置[2]。

实例化Debezium Engine

应用程序需要为运行的Mysql Connector启动一个Debezium引擎,这个引擎会以异步线程的形式运行,它包装了整个Mysql Connector连接器的生命周期。声明一个引擎需要以下几步:

声明收到数据变更捕获信息的格式,提供了JSON、Avro、Protobuf、Connect、CloudEvents等格式。

加载上面定义的配置。

声明消费数据更改事件的函数方法。

声明的伪代码:

  1. DebeziumEngine<RecordChangeEvent<SourceRecord>> debeziumEngine = DebeziumEngine.create(ChangeEventFormat.of(Connect.class)) 
  2.         .using(configuration.asProperties()) 
  3.         .notifying(this::handlePayload) 
  4.         .build(); 

handlePayload方法为:

  1. private void handlePayload(List<RecordChangeEvent<SourceRecord>> recordChangeEvents, DebeziumEngine.RecordCommitter<RecordChangeEvent<SourceRecord>> recordCommitter) { 
  2.     recordChangeEvents.forEach(r -> { 
  3.         SourceRecord sourceRecord = r.record(); 
  4.         Struct sourceRecordChangeValue = (Struct) sourceRecord.value(); 
  5.  
  6.         if (sourceRecordChangeValue != null) { 
  7.             // 判断操作的类型 过滤掉读 只处理增删改   这个其实可以在配置中设置 
  8.             Envelope.Operation operation = Envelope.Operation.forCode((String) sourceRecordChangeValue.get(OPERATION)); 
  9.  
  10.             if (operation != Envelope.Operation.READ) { 
  11.                 String record = operation == Envelope.Operation.DELETE ? BEFORE : AFTER
  12.                 // 获取增删改对应的结构体数据 
  13.                 Struct struct = (Struct) sourceRecordChangeValue.get(record); 
  14.                 // 将变更的行封装为Map 
  15.                 Map<String, Object> payload = struct.schema().fields().stream() 
  16.                         .map(Field::name
  17.                         .filter(fieldName -> struct.get(fieldName) != null
  18.                         .map(fieldName -> Pair.of(fieldName, struct.get(fieldName))) 
  19.                         .collect(toMap(Pair::getKey, Pair::getValue)); 
  20.                 // 这里简单打印一下 
  21.                 System.out.println("payload = " + payload); 
  22.             } 
  23.         } 
  24.     }); 

引擎的启动和关闭正好契合Spring Bean的生命周期:

  1. @Data 
  2. public class DebeziumServerBootstrap implements InitializingBean, SmartLifecycle { 
  3.  
  4.     private final Executor executor = Executors.newSingleThreadExecutor(); 
  5.     private DebeziumEngine<?> debeziumEngine; 
  6.  
  7.     @Override 
  8.     public void start() { 
  9.         executor.execute(debeziumEngine); 
  10.     } 
  11.  
  12.     @SneakyThrows 
  13.     @Override 
  14.     public void stop() { 
  15.         debeziumEngine.close(); 
  16.     } 
  17.  
  18.     @Override 
  19.     public boolean isRunning() { 
  20.         return false
  21.     } 
  22.  
  23.     @Override 
  24.     public void afterPropertiesSet() throws Exception { 
  25.         Assert.notNull(debeziumEngine, "debeziumEngine must not be null"); 
  26.     } 

启动

启动该Spring Boot项目,你可以采用各种手段往数据库增删改数据,观察会有类似下面的打印:

  1. payload = {user_id=1123213, username=felord.cn, age=11 , gender=0, enabled=1} 

说明Debezium监听到了数据库的变更。你可以想想这种技术在哪些场景有用武之地。好了今天的分享就到这里,感谢大家的支持,我是:码农小胖哥。原创不易,请多多关注、点赞、转发、再看。

参考资料

[1]Debezium Engine配置: https://debezium.io/documentation/reference/1.5/development/engine.html#engine-properties

[2]Mysql Connector配置: https://debezium.io/documentation/reference/1.5/connectors/mysql.html#mysql-connector-properties

本文转载自微信公众号「码农小胖哥」,可以通过以下二维码关注。转载本文请联系码农小胖哥公众号。

【编辑推荐】

  1. 鸿蒙官方战略合作共建——HarmonyOS技术社区
  2. 物联网数据库 IoTDB —— 从协议到数据
  3. 跟着王进老师学Python之Django篇第四季:数据库开发之ORM
  4. 老大让我设计亿级系统的Redis缓存...
  5. 2021年中国数据库行业研究报告
  6. 框架篇:分布式理论CAP、BASE
【责任编辑:武晓燕 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

订阅专栏+更多

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊

51CTO服务号

51CTO官微