这篇文章将为大家详细讲解有关如何进行Canal binlog日志的Dump流程分析,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。
成都创新互联公司是专业的什邡网站建设公司,什邡接单;提供成都网站制作、网站设计、外贸网站建设,网页设计,网站设计,建网站,PHP网站建设等专业做网站服务;采用PHP框架,可快速的进行什邡网站开发网页制作和功能扩展;专业做搜索引擎喜爱的网站,专业的做网站团队,希望更多企业前来合作!
Canal 的 dump 支持串行和并行模式两种模式,本篇重点梳理 dump 的核心流程,以便对 dump 过程有一个充分的了解,更好的理解 Canal 的实现原理与细节,下一篇中将重点关注Canal是如何引入并行模式来提高dump的性能,即并行编程相关的技巧。
从前面的文章我们得知 Canal binlog 日志解析的基本流程如下图所示:
在 Canal 中 dump 方法声明如下:
其方法参数说明如下:String binlogfilename
binlog 文件名称,例如 MySQL-bin.000038。
Long binlogPosition
在文件中的偏移量。
SinkFunction func
每解析出一条binlog日志的处理函数。
接下来我们直奔主题,一起来看一下 MysqlConnection 关于 dump 的实现流程。
set wait_timeout=9999999
连接空闲超时时间,默认为8消息,用于 Canal Slave 的等待超时时间远大于默认值。
set net_write_timeout=1800
网络写请求超时时间,针对正在进行数据读写的连接,该值默认为 60s。
set net_read_timeout=1800
网络读请求超时时间,针对正在进行数据读写的连接,该值默认为 30s。
set names 'binary'
设置服务端返回结果时不做编码转化,直接按照数据库的二进制编码进行发送,由客户端自己根据需求进行编码转化。
set @master_binlog_checksum= @@global.binlog_checksum
设置master_binlog_checksum,因为在mysql5.6之后为binlog引入了checksum机制,例如crc32,canal作为mysql slave,需要与服务端相关参数保持一致。
set @slave_uuid=uuid()
canal相对与mysql数据库服务而言就是一个从服务器,这个指令用于设置server_id,使用uuid,避免server_id重复。
SET @master_heartbeat_period=15
设置客户端与服务端心跳发送间隔,默认为15s。
Step2:从主库查询binlog checksum,具体向主库发送 select @@global.binlog_checksum 语句。
Step3:向MySQL Master 注册从节点,告知客户端的host、port、用户名与密码、serverId,具体实现是发送命令CODE为 0x15。
Step4:向 MySQL Master 发送 dump 请求,MySQL是基于请求与应答模式,发送请求命令后,就会向网络通道中写入响应请求。(在这里大家不妨先大概思考一下如何读取 dump 命令的返回值,这部分虽然涉及到网络相关的知识,我在这边会稍微简单提一下)。
Step5:构建 DirectLogFetcher对象,实现基于 socket 的日志拉取服务,并构建 LogDecoder 对象,用于解析 binlog 日志。
Step6:使用 while 循环反复拉取消息,通过通过 LogDecoder 对二进制流进行解析,提取一条完整的binlog事件,交给 SinkFunction 去处理,并且如果开启了半同步机制,则需要向master发送ACK。既然是while循环,该方法的退出条件还是值得我们关注的:
fetch.fetch()方法返回 false
SinkFunction 的 sink 方法 false,SinkFunction的详细处理流程将在下文介绍,这里先告知返回false的情况是 binlog 日志解析线程已停止运行。
上面粗略的介绍了 dump 命令的几个核心关键步骤,要想详细掌握其实现细节,我们必须继续深入探讨如下几个问题:
DirectLogFetcher 内部工作机制
LogDecoder binlog 日志解析
发送Dump底层网实现思路
LogBuffer
日志buffer,主要定义如下属性:
byte[] buffer
缓存区中数据容器。
int origin
当前buffer中的读指针
int limit
当前buffer的最大可读可写指针
int position
当前buffer的写指针。
int semival
是否需要发送ACK(用于半同步)。
LogBuffer封装了字节相关的操作,不仅定义了上面的属性,也定义了字节读取相关众多API,其截图如下:
LogFetcher binlog日志抓取抽象类,定义了如下关键属性与抽象方法。
int DEFAULT_INITIAL_CAPACITY
LogBuffer中的初始容量,默认为8K。
float DEFAULT_GROWTH_FACTOR
容量增长因子,默认为 2.0。
int BIN_LOG_HEADER_SIZE
binlog日志条目 header 的长度,固定为4字节。
float factor
增长因子。
public abstract boolean fetch()
抓取binlog日志。
public abstract void close()
关闭 Fetch。
DirectLogFetcher Canal LogFetcher模式实现类,其核心属性如下:
SocketChannel channel
网络通道,用于发送dump请求的网络通道。
boolean issemi = false
是否开启半同步。
接下来我们重点剖析 DirectLogFetcher 的 fetch 方法,来探究其实现原理。
在研究DirectLogFetcher的fetch方法之前,我们先重点跟踪一下其内部网络读写方法fetch0方法,该方法是具体与网络读写相关的实现。
int off
从通道中读取到的内容放入到buffer中的起始位置
int len
期望从通道中读取的字节长度。
该方法的实现关键点如下:
首先先确保接收缓存区有足够的剩余空间,如果空间不足,则进行扩容。
然后从通道中读取指定长度的字节。
接下来我们来重点看一下DirectLogFetcher的fetch的实现流程。
从上面的流程来看,DirectLogFetcher#fetch 方法结束后,就将进入到LogDecoder中。经过一次DirectLogFetcher#fetch方法后,即取回一条binlog日志,即二进制流,接下来就根据binlog协议对其解析。本文暂不深入该方法,如果大家想深入数据库中间件方面,可以作为一个很好的示例,面向MySQL通信协议进行编程。
通过 LogDecoder从中解析一个事件后,会调用SinkFunction的sink方法,如果该方法返回 false,一次dump请求将介绍,接下来我们看一下其sink方法。
首先需要调用EventSink组件将解析出来的数据传入EventSink。
EventSink组件处理成功后,会提交解析位点。
关于如何进行Canal binlog日志的Dump流程分析就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。
网站标题:如何进行Canalbinlog日志的Dump流程分析
当前地址:https://www.cdcxhl.com/article30/gohgpo.html
成都网站建设公司_创新互联,为您提供用户体验、外贸建站、微信小程序、网站建设、Google、网站改版
声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联