
学会RDD就学会了Spark,Spark数据结构RDD快速入门
<h2><a href="#一-概述">#</a> (一)概述 {#一-概述}</h2> <p>Spark计算框架封装了三种主要的数据结构:RDD(弹性分布式数据集)、累加器(分布式共享只写变量)、广播变量(分布式共享支只读变量)</p> <h2><a href=&qu...
<h2><a href="#一-概述">#</a> (一)概述 {#一-概述}</h2> <p>Spark计算框架封装了三种主要的数据结构:RDD(弹性分布式数据集)、累加器(分布式共享只写变量)、广播变量(分布式共享支只读变量)</p> <h2><a href=&qu...
[#](#一-概述) (一)概述 {#一-概述} ------------------------ SparkSQL可以理解为在原生的RDD上做的一层封装,通过SparkSQL可以在scala和java中写SQL语句,并将结果作为Dataset/DataFrame返回。简单来讲,SparkSQL可以让我们像写SQL一样去处理内存中的数据。 Dataset是一个数据的分布式集...
<h2><a href="#一-概述">#</a> (一)概述 {#一-概述}</h2> <p>算子从功能上可以分为Transformations转换算子和Action行动算子。转换算子用来做数据的转换操作,比如map、flatMap、reduceByKey等都是转换算子,这类算子通过懒加载执行。行...