不好意思,邮件被公司邮箱屏蔽了刚接收到。十分感谢解答,按照建议改了context.timeService().currentEventTime(),目前情况还是这样没有啥改变,后面再补充一些单元测试吧。
钟昊 IIG-BI 爱奇艺公司 iQIYI, Inc 地址:上海市长宁区临虹路365号爱奇艺创新大厦3层 邮编:201103 手机:+86 150 0080 1440 邮箱:[email protected]<mailto:[email protected]> 网址:www.iQIYI.com<http://www.iqiyi.com/> <http://www.iqiyi.com/> [cid:[email protected]] 2020年8月6日 下午6:14,shizk233 <[email protected]<mailto:[email protected]>> 写道: 具体原因不太清楚,但建议使用context.timeService().currentEventTime()和currentProcessingTime()来获取当前的时间。 排查方法的话,不知道你有没有做算子的单元测试,如果还没有的话可以通过flink test util[1][2]做单元测试来debug排查, 可以比较明确的观察到timeService上的Timer状态。 [1] https://flink.apache.org/news/2020/02/07/a-guide-for-unit-testing-in-apache-flink.html [2] https://ci.apache.org/projects/flink/flink-docs-stable/dev/stream/testing.html 钟昊(zhonghao01)-商业智能部 <[email protected]> 于2020年8月6日周四 下午5:31写道: hi,everyone: 由于业务需求,需要对一条流中的数据分4个步骤处理,处理完第一步后,再过15分钟进行第二步,第二步完成后再过30分钟处理第三步,然后60分钟后进行第四步,我这边通过timerservice设置定时器的方式进行的实现,但是运行过程中发现第二步15分钟的定时器只有非常少部分消息到时间触发了定时任务onTimer中的逻辑,部分代码实现如下: DataStream<String> dataStream = env.addSource(…); final OutputTag<Tuple2<String, SimplifiedPingbackMsg>> missPingback = …; final OutputTag<Tuple2<String, SimplifiedPingbackMsg>> level1Tag = …; final OutputTag<Tuple2<String, SimplifiedPingbackMsg>> level2Tag = …; final OutputTag<Tuple2<String, SimplifiedPingbackMsg>> level3Tag = …; SingleOutputStreamOperator<FinalItemFeature> missDs = dataStream .map(…) .filter(…) .assignTimestampsAndWatermarks(new AssignWaterMark()) .keyBy(0) .timeWindow(Time.seconds(winSize)) .process(new BatchMergeProcessFunction(missPingback)); SingleOutputStreamOperator<FinalItemFeature> level1MissedDs = missDs .getSideOutput(missPingback) .keyBy(0) // ********** 这一步中,处理类中15分钟的定时器只有非常少部分数据的定时器timer触发了,触发比例10%不到。 ******** .process(new HbaseTimerProcessFunc(level1Tag, 15)); SingleOutputStreamOperator<FinalItemFeature> level2MissedDs = level1MissedDs .keyBy(0) .process(new HbaseTimerProcessFunc(level2Tag, 30)); SingleOutputStreamOperator<FinalItemFeature> level3MissedDs = level2MissedDs .keyBy(0) .process(new HbaseTimerProcessFunc(level3Tag, 60)); DataStream<FinalItemFeature> l1Ds = level1MissedDs.getSideOutput(level1Tag); DataStream<FinalItemFeature> l2Ds = level2MissedDs.getSideOutput(level2Tag); DataStream<FinalItemFeature> l3Ds = level3MissedDs.getSideOutput(level3Tag); missDs.union(l1Ds).union(l2Ds).union(l3Ds).addSink(…); ——————————— —> HbaseTimerProcessFunc.class 中定时器设置方法 @Override public void processElement(SimplifiedPingbackMsg value, Context context, Collector<SimplifiedPingbackMsg> out) throws Exception { long ts = System.currentTimeMillis() + 60 * 1000 * timeout; pbState.put(value.getEventId() + ts, value); context.timerService().registerEventTimeTimer(ts); MetricModifyUtils.modifyPerDay(timerTotalCounter, 1); } ——————————— … // 水印提取类,类似于直接用了ProcessTime来提取的 class AssignWaterMark implements AssignerWithPeriodicWatermarks<Tuple2<String, SimplifiedPingbackMsg>> { private long maxOutOfOrderness = 60 * 1000 * 5; private long currentMaxTimestamp = 0L; @Nullable @Override public Watermark getCurrentWatermark() { return new Watermark(currentMaxTimestamp - maxOutOfOrderness); } @Override public long extractTimestamp(Tuple2<String, SimplifiedPingbackMsg> element, long previousElementTimestamp) { long timestamp = System.currentTimeMillis(); currentMaxTimestamp = Math.max(timestamp, currentMaxTimestamp); return timestamp; } } 所以为啥这里的实现会出现此类情况呢,这种情况该如何去排查为啥会有绝大多数timer不触发呢,我看了webui中水印生成是正常的。
