Hi 目前Flink的checkpoint目录都会有一个job-id 的子目录，所有chk- 和 shared 目录都在该目录下存储。 如果没有开启增量checkpoint:：在确保当前作业的checkpoint有最新完成的情况下，直接删除掉其他job-id的子目录即可。 如果开启了增量checkpoint：在确保当前作业的checkpoint有最新完成的情况下，可以直接删除 job-id 目录下的 chk- 开头的目录。
祝好 唐云 ________________________________ From: LakeShen <[email protected]> Sent: Sunday, January 19, 2020 15:42 To: [email protected] <[email protected]> Subject: Re: Flink 增量 Checkpoint ，容错恢复后，随着时间的推移，之前的 Checkpoint 状态没有清理 是否有办法清理掉这种容错恢复，之前的 Checkpoint 状态呢，现在集群的 HDFS 存储占用较多。 LakeShen <[email protected]> 于2020年1月19日周日 下午3:30写道： > Hi 唐云 ，非常感谢你的回答，我有个疑问，那从之前的 Checkpoint 状态恢复，之后 Flink 还会对这些状态进行清理吗，是否和 > Savepoint 类似，如果不清理，就永久保留。 > 非常感谢 > > > Yun Tang <[email protected]> 于2020年1月19日周日 下午2:06写道： > >> Hi >> >> 如果你从chk-94040 进行checkpoint恢复的话，这个checkpoint是不会被删除清理的，这个行为是by >> design的。原因是因为从checkpoint resume在行为上被认为从Savepoint resume行为是一致的，也复用了一套代码 >> [1]，Savepoint的生命周期由用户把控，Flink框架自行不会去删除。 >> 因此，加载的checkpoint被赋予了savepoint的property [2]。 >> 这个CheckpointProperties#SAVEPOINT 里面的 discardSubsumed >> 属性是false，也就是当新的checkpoint完成时，在subsume阶段这个旧的checkpoint不会被discard掉，所以你restored的chk-94040是一直保留的。 >> >> 希望这些解释能解答你的困惑 >> >> [1] >> https://github.com/apache/flink/blob/ee3101a075f681501fbc8c7cc4119476d497e5f3/flink-runtime/src/main/java/org/apache/flink/runtime/checkpoint/CheckpointCoordinator.java#L1141 >> [2] >> https://github.com/apache/flink/blob/ee3101a075f681501fbc8c7cc4119476d497e5f3/flink-runtime/src/main/java/org/apache/flink/runtime/checkpoint/Checkpoints.java#L214 >> >> 祝好 >> 唐云 >> >> >> >> >> ________________________________ >> From: LakeShen <[email protected]> >> Sent: Friday, January 17, 2020 16:28 >> To: [email protected] <[email protected]> >> Subject: Flink 增量 Checkpoint ，容错恢复后，随着时间的推移，之前的 Checkpoint 状态没有清理 >> >> 大家好，我现在有个任务，状态比较大，使用的增量的 Checkpoint，Flink 1.6 版本，默认的 Checkpoint 保留数为1， >> 我看了一下源码，发现当完成的 Checkpoint 数大于 state.checkpoints.num-retained的数值时，会对之前的完成的 >> Checkpoint 状态做清理。 >> >> 当时我早上八点40多任务 Checkpoint 成功，当时的 chk-id 为 >> 94040，然后到下午15点之间，Checkpoint都是超时失败的，然后15点容错恢复，从 >> chk-94040 恢复（八点40的状态），最新的 chk-id 为 94080。94080，94081，94082都是成功的，后面接着任务 >> Checkpoint 超时失败。 >> >> 但此时 早上八点40多的任务的状态(也就是94040)还是没有清理，但是 state.checkpoints.num-retained又为1，完成的 >> Checkpoint 数大于1，所以我的理解，应该会清理掉 94040（早上八点40的状态），但是实际没有清理，状态文件还在 HDFS >> 上面。这是为什么呢，难道说状态容错恢复，不会清理之前的状态吗？ >> >> 希望有大佬能帮我解惑，非常感谢 >> >
