spark平台基本组成(spark安装详细教程)

提起大数据技术,我们常常会想到大数据技术所需要的生态平台Hadoop和Spark,其中的Spark的概念及学习路线是如何的呢?一起来跟小编看看吧~一、Spark概念1、Spark描述ApacheSpark是专为大规模数据处理而设计的快速通用的计算引

提起大数据技术,我们常常会想到大数据技术所需要的生态平台Hadoop和Spark,其中的Spark的概念及学习路线是如何的呢?一起来跟小编看看吧~

spark平台基本组成(spark安装详细教程)

一、Spark概念

1、Spark描述

Apache Spark是专为大规模数据处理而设计的快速通用的计算引擎。

Spark是一种与Hadoop相似的开源集群计算环境,但是两者之间还存在一些不同之处,这些有用的不同之处使Spark在某些工作负载方面表现得更加优越,因为Spark启用了内存分布数据集,除了能够提供交互式查询外,它还可以优化迭代工作负载。

Spark是在Scala语言中实现的,它将Scala用作其应用程序框架。

Spark和Scala能够紧密集成,其中的Scalable可以像操作本地集合对象一样轻松地操作分布式数据集。

2、Spark特点

① 高级API将焦点从集群本身剥离出来,spark应用程序开发人员可以将焦点放在应用程序需要执行的计算本身。

② Spark速度快,支持交互式计算和复杂算法。

③ Spark是一个通用的引擎,它可以用来完成各种操作,包括SQL查询、文本处理、机器学习等,在Spark出现之前,我们一般需要学习各种引擎来处理这些需求。

spark平台基本组成(spark安装详细教程)

二、Spark学习路线

Spark的学习路线可以分成编程语言、Linux、Spark三个阶段来学习。

1、编程语言

学习Spark主要学习Java和Scala这两种编程语言。

① Java学习:JavaSE基础语法、Java面向对象、JavaSE API、线程、网络编程、反射基本原理。

② Scala学习:Scala基础语言、Scala类、Scala对象、Scala特征、Scala模式匹配,其中需要重点掌握Scala的trait、apply、函数式编程、泛型、逆变与协变等。

2、Linux

Spark是基于Linux系统开发并运行的,因此需要学习Linux系统。

Linux:Linux基础知识、CentOS、Maven。

3、Spark

在Spark阶段中主要学习Spark编程模型、Spark内核、SparkSQL、SparkStreaming。

① Spark编程模型:Spark模型组成、Spark弹性分布式数据集RDD、Spark转换Transformation、Spark操作Actions。

 Spark内核:Spark专业术语定义、Spark运行原理、Spark运行基本流程、Spark运行架构特点、Spark核心原理透视、Spark运行模式、Standalone运行模式、Yarn-Client运行模式、Yarn-Cluster运行模式。

 SparkSQL:SparkSQL概念、Overview、SparkSQL程序开发数据源、SparkSQL程序开发DataFrame、SparkSQL程序开发DataSet、SparkSQL程序开发数据类型。

④ SparkStreaming:Spark Streming概念、Spark Streaming执行步骤、SparkStreaming程序开发DStream的输入源、SparkStreaming程序开发Dstream的操作、SparkStreaming程序开发程序开发–性能优化、SparkStreaming程序开发容错容灾。

spark平台基本组成(spark安装详细教程)

Spark作为大数据技术的重要内容之一,是每一个学习大数据的同学所要必学的生态框架,通过这篇文章大家掌握到Spark的概念及学习路线了吗?

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件至 55@qq.com 举报,一经查实,本站将立刻删除。转转请注明出处:https://www.szhjjp.com/n/26036.html

(0)
nan
上一篇 2021-09-17
下一篇 2021-09-17

相关推荐

  • json格式文件怎么打开编辑(json格式文件打开编辑的方法)

    我的心里只有Python和JSON,以及佩恩!之所以要掌握JSON数据的处理方式,是因为在WEB开发和爬虫以及一些数据分析任务中,很多数据都是以JSON格式出现。JSON全称JavaScriptObjectNotation,虽然名字中有JavaS

    2021-10-01 科技
    0
  • 抖音变现方式分别有什么(赚钱最快的视频软件)

    “两微一抖”目前基本已经成为企业的营销标配,而且随着5G时代的到来,抖音也随着飞速增长,红利仍未被完全释放,依旧有巨大的企业经济发展空间。当你的抖音运营到一定程度,最终必定以变现为主要目的,可是抖音如何变现呢?这4种主流的变现模式你只要学会一种就可以

    2021-10-23 科技
    0
  • 基金定投年化收益率 (基金年化收益率怎么计算)

    很多买了基金的朋友,每天都会查看自己的收益;一般包括昨日收益,也就是昨天一天涨了还是跌了;持有收益,正在持有的基金一共赚了多少钱;还有累计收益,过去买过的所有基金,包括已经赎回的和正在持有基金加在一起的收益。图片仅作示意这些收益都是怎么计

    2021-12-12
    0
  • :Win10系统笔记本怎么打开摄像头(win7摄像头在哪里打开)

    Win10笔记本怎么打开摄像头?目前绝大多数笔记本都自带有摄像头,在以前的XP/Win7时代,用户进入我的电脑,就可以直接找到摄像头,能够比较轻松的找到并打开笔记本自带的摄像头进行拍照。不过,很多朋友在升级Win10系统后,在我的电脑中已

    2021-12-11 科技
    0
  • 用U盘给旧电脑重装XP系统(xp系统u盘启动盘制作)

    旧电脑经常出问题,需要重装系统,由于内存限制,只能重装XP系统,对于普通电脑用户,这个真不简单。我自己曾近多次失败。请教过很多专家,都应付我。经过反复摸索,我终于可以成功做到:用U盘给旧电脑重装XP系统了。今天分享,希望给在重装系统方面

    2021-12-11 科技
    0
  • u深度u盘安装重装系统步骤图解(服务器u盘安装系统)

    准备工作:1、下载u深度u盘启动盘制作工具并安装,然后将8G及以上的U盘制作成U盘启动盘。注意:制作期间,U盘会被格式化,因此U盘中的重要文件请注意备份。如果需要安装系统的是C盘,重要文件请勿放在C盘和桌面上。2、因为版权问题,u深

    2021-12-11 科技
    0

发表回复

登录后才能评论