加入收藏 | 设为首页 | 会员中心 | 我要投稿 草根网_安阳站长网 (https://www.0372zz.com/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 大数据 > 正文

大数据、云计算为什么不像以前那样热了?

发布时间:2022-10-21 11:20:20 所属栏目:大数据 来源:
导读:  还是一样热,但是不像以前那种盲热了,经过这么几年的发展,大数据已经形成了一个良好的生态,能够实际解决企业的问题了,能够将大数据应用到实处,大数据软件逐渐的丰富起来了,各式各样的组件层出不穷,所以作
  还是一样热,但是不像以前那种盲热了,经过这么几年的发展,大数据已经形成了一个良好的生态,能够实际解决企业的问题了,能够将大数据应用到实处,大数据软件逐渐的丰富起来了,各式各样的组件层出不穷,所以作为大数据专业的人员,需要学习的大数据技能非常非常多,所以现在大数据已经进行细分了,每个岗位从事的工作及所需的技能如下:
 
  数仓工程师 (全称:数据仓库工程师)
 
  数仓工程师日常工作一般是不写代码的,主要以写 SQL 为主!
 
  数仓工程师是大数据领域公司招聘较多的岗位,薪资也较高,需要重点关注!
 
  数据仓库分为离线数仓和实时数仓,但是企业在招聘时大多要求两者都会,进入公司之后可能会专注于离线或实时其中之一。
 
  就目前来说,大多数的企业还是以离线数仓为主,不过未来趋势肯定是实时数仓为主,所以学习时,为了现在能找到工作,需要学习离线数仓,为了以后的发展,需要学习实时数仓。所以大数据比对,离线和实时都是我们重点掌握的!
 
  需要掌握的技能:
 
  不管离线还是实时,重中之重就是:SQL
 
  SQL 语法及调优一定要掌握,这里说的 SQL 包括 mysql 中的 sql,hive中的 hive sql,spark 中的 spark sql,flink 中 的 flink sql。
 
  在企业招聘的笔记及面试中,一般问的关于 sql 的问题主要是以 hive sql 为主,所以请重点关注!
 
  除 sql 外,还需要重点掌握以下技能,分为离线和实时
 
  离线数仓需要重点掌握的技能:
 
  实时数仓需要重点掌握的技能:
 
  2. 大数据开发工程师
 
  数据开发工程师一般是以写代码为主,以 Java 和 Scala 为主。
 
  大数据开发分两类,第一类是编写Hadoop、Spark、Flink 的应用程序,第二类是对大数据处理系统本身进行开发,如对开源框架的扩展开发,数据中台的开发等!
 
  需要重点掌握的技能:
 
  通过以上技能,我们也能看出,数据开发和数仓开发的技能重复率较高,所以很多公司招聘时 大数据开发 和 数仓建设 分的没有这么细,数据开发包含了数仓的工作!
 
  3. ETL工程师
 
  ETL是三个单词的首字母,中文意思是抽取、转换、加载
 
  从开始的图中也能看出,ETL工程师是对接业务和数据的交接点,所以需要处理上下游的关系
 
  对于上游,需要经常跟业务系统的人打交道,所以要对业务系统比较熟悉。比如它们存在各种接口,不管是API级别还是数据库接口,这都需要ETL工程师非常了解。
 
  其次是其下游,这意味着你要跟许多数据开发工程师师、数据科学家打交道。比如将准备好的数据(数据的清洗、整理、融合),交给下游的数据开发和数据科学家。
 
  需要重点掌握的技能
 
  4. 数据分析工程师
 
  在数据工程师准备好数据维护好数仓后,数据分析师就上场了。
 
  分析师们会根据数据和业务情况,分析得出结论、制定业务策略或者建立模型,创造新的业务价值并支持业务高效运转。
 
  同时数据分析师在后期还有数据爬虫、数据挖掘和算法工程师三个分支。
 

(编辑:草根网_安阳站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!