flink-user-zh mailing list archives

Site index · List index
Message view « Date » · « Thread »
Top « Date » · « Thread »
From "Jimmy Wong" <wangzmk...@163.com>
Subject Re:Re: Kafka 与 extractly-once
Date Mon, 09 Sep 2019 09:32:48 GMT
HI,能详细说下 “后端幂等消费” 的方案麽?








在 2019-09-09 14:37:55,"chang chan" <giraffetree1@gmail.com> 写道:
>消息队列本身很难保证消息不重复
>exactly once 可以用  消息队列的 at least once + 后端幂等消费来实现
>另外不建议使用 kafka 事务, 会拉低消息消费的速度
>
>Jimmy Wong <wangzmking@163.com> 于2019年9月9日周一 上午11:50写道:
>
>> Hi,all:
>> 请教一下,我设置 checkpoint 的时间是 5 分钟,如果在这 5 分钟之内,某个
task 挂了,然后又重新拉起。我是不是可以理解为这时候从
>> checkpoint 的数据获得的是这 5 分钟之前的 Kafka offset,但是这 5
>> 分钟之内的消息已经消费,流向下游。重新拉起之后,source 重放,那么这时候这
5 分钟的数据会再次被消费麽?如果再次消费,那么怎么保证
>> Extractly-Once 呢?
>> | |
>> Jimmy
>> |
>> |
>> wangzmking@163.com
>> |
>> 签名由网易邮箱大师定制
>>
>>
Mime
  • Unnamed multipart/alternative (inline, None, 0 bytes)
View raw message