flink-user-zh mailing list archives

Site index · List index
Message view « Date » · « Thread »
Top « Date » · « Thread »
From tison <wander4...@gmail.com>
Subject Re: Flink DataStream KeyedStream 与 AggregateFunction
Date Mon, 11 Nov 2019 09:05:54 GMT
关于第二点,BLINK 和腾讯的 FLINK 定制版本 TDFLINK 都做了 local keyby 功能,
社区相关的讨论见 FLIP-44,可惜社区一直没啥时间跟进这个 Thread

Best,
tison.


Px New <15701181132mr.liu@gmail.com> 于2019年11月10日周日 上午10:58写道:

> [image: image.png]建议深入解下 keyWindow,NoKeyWindow 与Assigner TimeWindow
> And WindowsFunction 😃
>
> Yuan,Youjun <yuanyoujun@baidu.com> 于2019年11月9日周六 下午7:46写道:
>
>> 1, 是
>> 2,没有标准答案,是否可以本地先聚合?
>> 3,AggFunc是指定做何种聚合,是sum, 还是avg, 还是count。不指定的话,Flink哪里指导你要计算啥?
>>
>> -----邮件原件-----
>> 发件人: 王佩 <wangpei@cmcm.com>
>> 发送时间: Saturday, November 9, 2019 11:45 AM
>> 收件人: user-zh <user-zh@flink.apache.org>
>> 主题: Flink DataStream KeyedStream 与 AggregateFunction
>>
>> 请教下:
>>
>> 1、DataStream 如按用户ID KeyBy后,同一个用户ID的数据最终会被分到一个Partition中吗?
>>
>> 2、假设1成立,这样就会有数据倾斜的问题。该如何解决?
>>
>> 3、假设1成立,如: DataStream
>>                                .keyBy(userID)
>>                                .timeWindow(....)
>>                                .aggregate(new
>> AggregateFunction(.......)),这里的AggregateFunction
>> 为啥还需要merge呢。因为同一个Key的数据只会在同一个Partition中被计算,觉得不需要merge啊。
>>
>> 这三个问题有点疑惑,大神们帮忙看下!
>> 感谢!
>>
>
Mime
  • Unnamed multipart/alternative (inline, None, 0 bytes)
View raw message