Hello! 欢迎来到小浪云!


Flink CDC 监听 MySQL 二进制主键时出现 ClassCastException 如何解决?


avatar
小浪云 2024-11-10 47

Flink CDC 监听 MySQL 二进制主键时出现 ClassCastException 如何解决?

flink cdc 监听 mysql binary 主键时出现 classcastexception

使用 flink cdc 监听 mysql 时,如果 mysql 表的主键是二进制格式,可能会遇到以下错误:

caused by: java.lang.classcastexception: [b cannot be cast to java.lang.comparable
登录后复制

问题分析

此错误表明在拆表时出现了问题。flink cdc 将表拆分为更小的分片,用于并行读取。拆分时,flink 会比较主键值以确定分片的边界。但是,对于二进制格式的主键,主键值无法直接转换为可比较的对象,因此会出现 classcastexception。

解决方案

解决此问题的方法是升级到 flink cdc 2.1.2 或更高版本。在这些版本中,已经修复了该问题。此外,还可以通过以下方式解决问题:

  • mysql 表的主键更改为非二进制格式。
  • 使用 flink 提供的 binaryprefixboundednessassigner 来处理二进制主键。

具体步骤

将 flink cdc 2.1.1 升级到 2.1.2 或更高版本:

mvn dependency:upgrade -dartifact org.apache.flink:flink-connector-mysql-cdc
登录后复制

使用 binaryprefixboundednessassigner 来处理二进制主键:

ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment(); // 创建 MySQL source CDCSource<Tuple5<ByteString, ByteString, BigInteger, ByteString, Long>> source = CDCSource.<Tuple5<ByteString, ByteString, BigInteger, ByteString, Long>>builder()         .hostname("localhost")         .port(3306)         .database("test_db")         .tableList("test_table")         .username("root")         .password("root")         // 使用 BinaryPrefixBoundednessAssigner 处理二进制主键         .assigners(new BinaryPrefixBoundednessAssigner())         .build();
登录后复制

相关阅读