SparkCoreRDD依赖关系

宽窄依赖

  • 两种依赖关系类型
    RDD和它依赖的父RDD的关系有两种不同的类型，即
    宽依赖(wide dependency/shuffle dependency)
    窄依赖(narrow dependency)

  • 图解

  • 如何区分宽窄依赖
    窄依赖:父RDD的一个分区只会被子RDD的一个分区依赖
    宽依赖:父RDD的一个分区会被子RDD的多个分区依赖(涉及到shuffle)

  • 面试题：
    子RDD的一个分区依赖多个父RDD是宽依赖还是窄依赖？
    不能确定,也就是宽窄依赖的划分依据是父RDD的一个分区是否被子RDD的多个分区所依赖,是,就是宽依赖,或者从shuffle的角度去判断,有shuffle就是宽依赖

为什么要设计宽窄依赖

  • 1.对于窄依赖
    Spark可以并行计算
    如果有一个分区数据丢失，只需要从父RDD的对应1个分区重新计算即可，不需要重新计算整个任务，提高容错。
  • 2.对于宽依赖
    是划分Stage的依据