51工具盒子
十亿条数据需要每天计算怎么办？Spark快速入门
[#](#一-概述) （一）概述 {#一-概述} ------------------------ 前段时间公司规划了一个新的项目，我成了这个项目的负责人。在做技术选型时，有一个需求阻碍了前进的步伐。大概有十亿条数据，数据总量在六百G左右，这些海量的数据需要每天根据一定的逻辑计算得到几千万的值。当数据量达到这种程度时，Java应用已经无法支撑了，于是在技术选型时选中了大数据计...
Spark
学会RDD就学会了Spark，Spark数据结构RDD快速入门
[#](#一-概述) （一）概述 {#一-概述} ------------------------ Spark计算框架封装了三种主要的数据结构：RDD（弹性分布式数据集）、累加器（分布式共享只写变量）、广播变量（分布式共享支只读变量） [#](#二-rdd) （二）RDD {#二-rdd} --------------------------- RDD：弹性分布式数据集是...
像写SQL一样去处理内存中的数据，SparkSQL入门教程
[#](#一-概述) （一）概述 {#一-概述} ------------------------ SparkSQL可以理解为在原生的RDD上做的一层封装，通过SparkSQL可以在scala和java中写SQL语句，并将结果作为Dataset/DataFrame返回。简单来讲，SparkSQL可以让我们像写SQL一样去处理内存中的数据。 Dataset是一个数据的分布式集...
Spark算子实战Java版，学到了
[#](#一-概述) （一）概述 {#一-概述} ------------------------ 算子从功能上可以分为Transformations转换算子和Action行动算子。转换算子用来做数据的转换操作，比如map、flatMap、reduceByKey等都是转换算子，这类算子通过懒加载执行。行动算子的作用是触发执行，比如foreach、collect、count等都...
- 1