Flink内核原理与实现
Master(JobManager)—Slave(TaskManager)架构
JobManager 根据并行度将 Flink 应用分解为子任务,向 ResourceManager申请资源,然后分发任务到 TaskManager执行,并负责应用容错,跟踪作业的执行状态,发现异常则恢复作业等
- JobManager 下面分 JobMaster(解析作业)、ResourceManager、Dispatcher 三个部分
- JobMaster 将客户端生成的作业图转换为物理层面的执行图,并进行分发
- 一个 JobMaster 对应一个 JobManager,一个 JobManger 可以有多个 JobMaster
TaskManager 管理子任务的启动、停止、销毁、异常恢复等。
DataStream