当前位置 : 首页> Java培训 > 上海大数据培训班贡献自学大数据良方

上海大数据培训班贡献自学大数据良方

时间:2018-09-12 11:49:04   已访问:368次
热门专业

大数据、区块链、人工智能、物联网的兴起,让许多人看到了大数据的商机,自学大数据入何入手呢?想要自学大数据,上海大数据培训班为大家准备的学习计划,这些技术知识梳理、其中的定义、关系以及作用,对你以后的学习会有很大的帮助,期待你的完美蜕变!

上海大数据培训班贡献自学大数据良方_www.cnitedu.cn

上海大数据培训班告诉你如何自学大数据?

大数据本质也是数据,但是又有了新的特征,包括数据来源广、数据格式多样化(结构化数据、非结构化数据、Excel文件、文本文件等)、数据量大(最少也是TB级别的、甚至可能是PB级别)、数据增长速度快等。

一、大数据四个特征:

1、数据来源广,该如何采集汇总?对应出现了Sqoop,Cammel,Datax等工具。

2、数据采集之后,该如何存储?对应出现了GFS,HDFS,TFS等分布式文件存储系统。

3、由于数据增长速度快,数据存储就必须可以水平扩展。

4、数据存储之后,该如何通过运算快速转化成一致的格式,该如何快速运算出自己想要的结果?

对应的MapReduce这样的分布式运算框架解决了这个问题;但是写MapReduce需要Java代码量很大,所以出现了Hive,Pig等将SQL转化成MapReduce的解析引擎;普通的MapReduce处理数据只能一批一批地处理,时间延迟太长,为了实现每输入一条数据就能得到结果,于是出现了Storm/JStorm这样的低时延的流式计算框架;但是如果同时需要批处理和流处理,按照如上就得搭两个集群,Hadoop集群(包括HDFS+MapReduce+Yarn)和Storm集群,不易于管理,所以出现了Spark这样的一站式的计算框架,既可以进行批处理,又可以进行流处理(实质上是微批处理)。而后Lambda架构,Kappa架构的出现,又提供了一种业务处理的通用架构。

二、大数据提高运算速度的辅助工具:

1、Ozzie,azkaban:定时任务调度的工具。

2、Hue,Zepplin:图形化任务执行管理,结果查看工具。

3、Scala语言:编写Spark程序的最佳语言,当然也可以选择用Python。

4、Python语言:编写一些脚本时会用到。

5、Allluxio,Kylin等:通过对存储的数据进行预处理,加快运算速度的工具。

综上所述,以上大致就把整个大数据生态里面用到的工具所解决的问题列举了一遍,知道了为什么而出现或者说出现是为了解决什么问题,进行学习的时候就有的放矢了,这就是大数据自学的一些妙方,希望有助大家学习。


推荐内容