首页 > 实用范文 > 办公文秘 > 岗位职责 > 大数据架构师工作的岗位职责通用32篇正文

《大数据架构师工作的岗位职责通用32篇》

时间:

大数据架构师工作的岗位职责(精选32篇)

大数据架构师工作的岗位职责 篇1

1.负责企业数据中心建设,设计数据逻辑模型和物理模型,并完成相关开发

2.梳理公司各业务线常用的指标和维度,统一指标定义口径

3.根据数据应用开发和数据分析需求,设计数据仓库信息层模型,提高数据开发的效率

4.负责数据模型的运营和优化,及时响应业务逻辑变更,保证模型的数据质量和稳定性

5.负责公司数据标签体系的建设,并推动标签体系在实际业务场景中落地

大数据架构师工作的岗位职责 篇2

职责:

1. 规划设计大数据平台整体架构,规划各种组件,并且指导技术团队完成相关系统验证、安装、部署、配置;

2. 负责制定大数据平台技术规范和接口规范,指导研发团队按照规范进行系统开发;

3. 配合商务人员完成售前技术支持工作;

4. 完成其他与数据应用有关的技术工作;

任职要求:

1. 计算机相关专业本科学历,5年以上工作经验;

2. 对大数据技术栈有非常深刻的了解;具备架构设计的实际经验;

3. 对信息安全架构设计及实施有一定的经验;

4. 熟悉Linux、Windows等操作系统的安装配置;

5. 熟悉互联网应用的安装配置;熟悉常见大数据技术栈组件的安装配置;熟悉Visio等绘图工具的使用;

6. 有卫生信息化建设经验者优先;有容器安装部署经验者优先。

大数据架构师工作的岗位职责 篇3

1.负责大数据基础和应用平台的整体规划和架构设计,参与需求分析,架构设计,详细设计以及技术选型决策

2.参与数据挖掘和建模相关核心算法的代码实现

3.负责大数据算法平台的技术把关,性能调优,控制架构质量,解决项目技术难题;对研发项目和任务需求进行评估和方案设计、拆分任务并指导工程师完成开发

4.带领团队提供并实现大数据算法平台上各项数据接入、数据挖掘分析及数据可视化的架构设计与能力,支持解决方案实施

5.负责数据库设计、应用架构设计、核心技术选型等工作

6.协调解决开发中的技术问题、设计和监控运营指标,保障系统稳定运行

7.培养,指导有能力的员工,指导工程师进行技术验证实现,核心技术攻关,解决开发过程中的技术难题

大数据架构师工作的岗位职责 篇4

职责:

1、大数据平台的规划、设计、实施,并优化数据库;

2、对数据库进行管理,负责数据库应用系统的运营及监控;

3、对数据库性能分析与调优,排错,保证数据正确率;

4、配合其他部门进行的数据处理、查询,统计和分析工作;

5、完成公司下达的项目开发任务。

任职要求:

1、计算机及相关专业本科以上学历,5年以上软件开发从业经验,其中包括至少2年以上的大数据开发工作经验;

2、熟悉hive,hadoop/spark,hbase等大数据相关技术架构,有管理或优化大型分布式集群经验;

3、熟悉linux基本命令,精通SQL脚本的编写,有丰富的数据库管理、运维调优经验;

4、熟悉C++、Java、C#等开发语言;

5、有互联网电商行业大数据分析处理和大型数据仓库的设计和实施经验;

6、有分布式系统分析及架构设计经验和大型计算集群的基础设施开发维护经验;

7、快速处理系统突发事件的能力,较强的学习和创新能力;

8、良好的沟通能力和团队合作精神。

大数据架构师工作的岗位职责 篇5

职责:

负责大数据平台架构的规划和设计,主导系统的架构设计和核心模块开发,确保项目质量和关键性能指标达成;

负责大数据平台技术框架的选型与技术难点攻关,指导开发大数据平台的开发,保证大数据产品的上线运行;

负责深入理解业务需求,对业务建模,设计系统架构,满足业务需求;

负责协助策略和算法工作,保障数据挖掘建模和工程化;

负责根据业务需求整合优化数据架构,保证产品的可靠性、稳定性;

负责指导开发人员完成数据模型规划建设、分析模型构建及分析呈现;

负责研发技术发展方向,新技术领域的探索,将新技术应用到公司大数据平台,提升公司效能

任职要求:

本科及以上学历,拥有5年以上大数据平台产品或分布式系统设计经验,6年以上的开发经验;

精通Hadoop,熟悉大数据生态技术,如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Yarn、Sqoop、CDH、Solr 、Kylin、Impala、Hive、Hbase、Kerberos、Sentry等,有大规模集群架构、开发及运维经验;

熟练掌握java/Scala语言,实现面向对象开发思想OOA,OOD,OOP;

熟悉linux操作系统,熟练掌握脚本言语Shell/Perl/Python等编码语言;

熟练掌握数据仓库设计,开发工作。能够根据业务设计并开发数据仓。

具备源码级问题解决和集群优化改造能力者优先;

能快速的学习新的开源框架和知识体系,并应用到现有架构体系中;

逻辑清晰,快速的学习能力,良好的沟通能力、团队协调能力。

具备良好的团队合作精神,较强的沟通交流能力,具备良好的技术领导能力;

具备良好的文档撰写能力和技术团队管理能力

大数据架构师工作的岗位职责 篇6

职责:

1、负责规划大数据平台及应用产品的需求和技术方案设计;

2、负责数据对接和对外服务设计、开发和维护,并能保证质量和性能;

3、负责基于大数据平台的应用设计、开发和维护;

4、能从系统全局和各子系统的角度思考可能存在的问题,并提出改进方案建议;

任职要求:

1、大学本科6年以上工作经验,计算机相关专业。

2、至少4年以上的Java开发经验,3年以上大数据应用系统的开发和设计经验。

3、熟悉Hadoop生态圈技术体系, 对离线计算、内存计算和流式计算均有深刻理解, 如Hadoop、Storm、Spark三个中的任意二个, 能进行平台和组件优化。

4、精通Hive、HBase仓库设计,深刻理解MR运行原理和机制,能进行以提供高任务执行效率的优化。

5、精通Java开发,熟悉JVM调优, 对GC有深刻理解。

6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相关技术, 能进行hbase可靠性诊断和维护。

7、快速研究和学习技术能力。

大数据架构师工作的岗位职责 篇7

职责:

1、负责大数据项目平台架构的评估、规划和设计

2、开发大数据平台的核心模块代码,负责大数据平台的搭建,完成系统调试、集成与实施,保证大数据产品的上线运行

3、根据业务需求整合优化数据架构,保证产品的可靠性、稳定性

4、指导开发人员完成数据模型规划建设,分析模型构建及分析呈现

5、深入研究大数据相关技术和产品,跟进业界先进技术;

6、根据项目要求编写相关技术文档;

7、负责大数据平台的架构评审,代码评审,上线评审;参与数据应用需求、设计、审核和评审;

8、负责核心模块研发,负责大数据平台的搭建,完成系统调试、集成与实施;

9. 负责关键功能的开发,技术难题的解决,以及输出代码的关键把控;

10. 负责对使用关键技术的预研和选型,完成 PoC ;

11. 指导工程师完成开发工作,并能分享技术经验。

任职资格:

1、精通Linux操作系统,熟练使用Java;

2、3年以上大数据项目实战经验,两个项目的架构设计经验,熟悉Hadoop、Hbase、Storm、Spark、Pig等开源框架,并熟悉其工作原理;

3、有Hadoop、Spark、Hbase平台性能调优经验;

4、熟悉其它分布式存储相关技术,包括HDFS,Hive、Redis、Mongodb、 Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;

5、熟悉Java开发常用框架.如Spring、MyBatis等;

6、熟悉关系型数据库如oracle及数据库编程。

7、能够根据项目情况安排人力、分配任务,具有较强的团队管理能力。

8、硕士以上学历,20xx年以上的工作经验。

大数据架构师工作的岗位职责 篇8

职责:

1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;

2. 负责实时计算平台基础架构设计、部署、监控、优化升级;

3. 制定项目/数据仓库设计及实现规范,指导设计研发和部署;

4. 协助策略和算法团队工作,保障数据挖掘建模和工程化;

5. 深入研究大数据相关技术和产品,跟进业界先进技术。

任职要求:

1. 全日制本科及以上学历,5年以上软件和分布式系统研发经验,3年以上大数据系统架构经验;

2. 精通Hadoop/HBase/Spark/Storm/Redis技术及其生态圈;

3. 具备Java/C++/Scala等开发经验,熟悉数据挖掘和分析的策略与算法;

4. 具备良好的系统分析能力、故障诊断能力;

5. 有大数据策略、算法、可视化经验优先;

6、211/985 重点学校毕业优先。

大数据架构师工作的岗位职责 篇9

职责:

1. 负责大数据平台的基础技术规划,编制相关规范文档。

2. 负责大数据平台的数据采集,处理,存储以及挖掘分析的架构实现。

3. 负责大数据平台的实际规划建设,包括环境和框架的规划搭建以及部分核心编码工作。

4. 负责大数据相关技术发展方向的预研。

5. 参与业务需求调研,根据需求及行业特点设计大数据解决方案并跟进具体实施项目。

6. 制定大数据平台中数据质量,业务质量监控及管理办法

岗位要求:

1. 全日制本科及以上学历,5年以上工作经验,4年及以上大数据架构设计经验,熟悉大数据解决方案,包括Hadoop平台、Spark、storm、机器学习、深度学习等大数据解决方案。

2. 深刻理解大数据处理(流计算、分布式计算、分布式文件系统、分布式存储等相关技术)实现方法。有架构和设计实践经验。

3. 精通大型数据库Oracle、SqlServer等的开发。

4. 精通java,Python中的一种或多种语言。

5. 熟悉容器、虚拟化、微服务框架等相关技术。

6. 对数据敏感,有严谨的工作思路,良好的沟通能力和团队合作精神。

7. 熟悉R,Python,SAS、SPSS等数据挖掘经验者优先。

8. 高宽展性,高性能,和分布式系统的实践及运维经验者优先。

9. 有大型数据仓库实施、大数据平台数据开发经验,熟悉运营商业务者优先。

大数据架构师工作的岗位职责 篇10

职责

1、负责大数据架构设计,包括定义数据的存储、集成(ETL)、应用,支撑业务运营和数据分析类需求实现;

2、制定数据治理领域的数据体系化管理措施,包括元数据设计、数据标准、数据质量、数据处理、数据安全等工作,确保数据可信与安全;

3、基于行业数据积累,满足业务的数据挖掘需求,实现从数据到资产的转变,根据目标行业建立具有前瞻性的数据模型;

4、对各产品的数据安全负责,主导制定和实施数据库系统安全策略,保证整体方案数据安全;

岗位要求

业务技能要求:

1、深入理解云化、数据仓库,在参与过的系统设计中,必须涉及这两项关键技术;

n2、精通或者熟悉Hadoop体系架构,以及HDFS/HBase/Hive/MapReduce/Spark等技术,了解体系架构各组件的优缺点,有直接的产品设计与开发、部署、调优的经验;

3、精通或熟悉常见RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜索引擎(Solr/ElasticSearch)的使用及开发,了解各数据库优缺点, 熟悉与架构设计相关的数据存储、性能调优等相关领域知识,有相关项目经验尤佳;

4、熟悉业界常用的数据采集、集成、数据存储、计算、数据模型、数据分析的技术方案,具有数据分析或数据挖掘相关经验者优先;

n5、熟悉数据治理相关流程,包括数据接入、数据处理、数据治理、数据组织、数据服务等。

专业知识要求:

1、具备数据治理的知识与体系方案,包含政策、组织、角色、流程、规范等,以及规划相应的支撑方案。了解业界的数据管理方法论;

2、具备数据用例设计和开发能力。能够基于业务相关数据进行业务需求分析和痛点识别,将业务需求转化为数据的需求,完成数据用例的设计和开发;

3、精通海量数据(日增量百亿)级别数据仓库、数据集市的构建流程。熟悉公安、政务、工业、交通、医疗等多行业业务者优先。

大数据架构师工作的岗位职责 篇11

职责:

1、负责大数据平台架构的评估、规划和设计 ;负责海量数据采集、处理及存储、应用方案的技术选型及架构实现;

2、开发大数据平台的核心代码,负责大数据平台的搭建,完成系统调试、集成与实施,技术难题的解决,保证大数据产品的上线运行 ;

3、根据业务需求持续优化数据架构,保证产品的可靠性、稳定性 ;

4、指导开发人员完成数据模型规划建设,分析模型构建及分析呈现 ,分享技术经验;

5、负责大数据平台的架构评审,代码评审,上线评审;参与数据应用需求、设计、审核和评审;

6、深入研究大数据相关技术和产品,跟进业界先进技术;

任职资格:

1.本科及以上学历,数学或计算机相关专业毕业,不少于5年的工作经验,具有扎实的计算机基础理论知识;

2.有3年以上Hadoop、Spark、Hbase平台性能调优经验;熟悉sparkstreaming等实时计算技术

3.熟悉hive、hbase、storm、mahout、flume、ElasticSearch、Spark、Kafka等,具备实际项目设计及开发经验;

4.熟悉sparkstreaming等相关的实时计算技术;

5.熟悉大规模数据挖掘、机器学习、自然语言处理、分布式计算中一项或多项技术,并具备多年的实际工作经验;

6.熟悉主流关系型数据库(Oracle、MySql)、NoSql数据库,熟悉pl/sql编程;精通Linux操作系统,熟练使用Java;熟悉常用框架.如Spring、MyBatis等;

7.具有较强的执行力,高度的责任感、很强的学习、沟通能力,能够在高压下高效工作;

大数据架构师工作的岗位职责 篇12

1、基于公司大数据基础和数据资产积累,负责大数据应用整体技术架构的设计、优化,建设大数据能力开放平台;负责大数据应用产品的架构设计、技术把控工作。

2、负责制定大数据应用系统的数据安全管控体系和数据使用规范。

3、作为大数据技术方案到产品实现的技术负责人,负责关键技术点攻坚工作,负责内部技术推广、培训及知识转移工作。

4、负责大数据系统研发项目任务规划、整体进度、风险把控,有效协同团队成员并组织跨团队技术协作,保证项目质量与进度。

5、负责提升产品技术团队的技术影响力,针对新人、普通开发人员进行有效辅导,帮助其快速成长。

大数据架构师工作的岗位职责 篇13

职责:

1、负责大数据平台及BI系统框架设计、规划、技术选型,架构设计并完成系统基础服务的开发;

2、负责海量埋点规则、SDK标准化、埋点数据采集、处理及存储,业务数据分布存储、流式/实时计算等应用层架构搭建及核心代码实现;

3、开发大数据平台的核心代码,项目敏捷开发流程管理,完成系统调试、集成与实施,对每个项目周期技术难题的解决,保证大数据产品的上线运行;

4、负责大数据平台的架构优化,代码评审,并根据业务需求持续优化数据架构,保证产品的可靠性、稳定性;

5、指导开发人员完成数据模型规划建设,分析模型构建及分析呈现,分享技术经验;

6、有效制定各种突发性研发技术故障的应对预案,有清晰的隐患意识;

7、深入研究大数据相关技术和产品,跟进业界先进技术;

【任职要求】

1、统计学、应用数学或计算机相关专业大学本科以上学历;

2、熟悉互联网移动端埋点方法(点击和浏览等行为埋点),无埋点方案等,有埋点SDK独立开发经验者优选;

3、熟悉Hadoop,MR/MapReduce,Hdfs,Hbase,Redis,Storm,Python,zookeeper,kafka,flinkHadoop,hive,mahout,flume,ElasticSearch,KafkaPython等,具备实际项目设计及开发经验;

4、熟悉数据采集、数据清洗、分析和建模工作相关技术细节及流程

5、熟悉Liunx/Unix操作系统,能熟练使用shell/perl等脚本语言,熟练掌握java/python/go/C++中一种或多种编程语言

6、具备一定的算法能力,了解机器学习/深度学习算法工具使用,有主流大数据计算组件开发和使用经验者优先

7、熟悉大数据可视化工具Tableau/echarts

8、具有较强的执行力,高度的责任感、很强的学习、沟通能力,能够在高压下高效工作;

大数据架构师工作的岗位职责 篇14

1、搭建基于Hadoop/Spark的数据挖掘体系和大数据分析系统架构;

2、研究大数据领域前沿数据挖掘技术,并引入相应技术在数据中心的使用;

3、进行大数据系统框架设计、模型算法开发;

4、负责大型数据挖掘项目方案制定、项目实施落地及优化等;

5、开展数据爬取、聚类分析、舆情分析、鱼骨图分析、定价策略等领域数据挖掘工作;

大数据架构师工作的岗位职责 篇15

1、负责大数据平台资源规划、权限控制、运维架构设计,为各产品业务提供稳定、高效、安全的运行环境;

2、负责实时,离线数据分析处理及实时平台的建设和搭建

3、熟悉 Flink 流式计算引擎的使用以及源码原理,并且有相关的流式处理平台的经验。

4、Java基础扎实,熟练掌握垃圾回收,网络,多线程编程,了解 python 或 scala

5、负责大数据平台技术架构、数据架构的分析与设计;

大数据架构师工作的岗位职责 篇16

职责:

1、负责大数据平台的技术选型,基于Spark、Hadoop大数据平台建设和开发;

2、完成包括数据模型设计、数据采集、数据存储等方面的大数据系统架构的设计和数据层架构设计;

3、构建数据中台,为多种行业应用提供主数据(画像标签/关系图谱)、数据模型、人工智能业务算法及数据服务。

4、对海量数据处理的业务需求进行评估和方案设计、拆分任务并指导工程师完成开发;

5、带领大数据技术团队提供并实现大数据平台上各项数据分析和数据可视化的架构设计,支撑解决方案实施。

任职要求:

1、本科及以上学历,具有5年及以上大数据架构设计和开发经验;2年及以上带领团队经验;沟通能力强。在大型互联网企业从事大数据架构设计者优先考虑;有分布式大型商业软件系统设计经验、主导过大型商业软件的架构设计并取得过市场商业成功者优先考虑;

2、熟悉整个大数据的完整处理流程,包括数据的采集、清洗、预处理、存储、分析挖据、机器学习和数据可视化;

3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一种主流数据库的使用,并能进行性能调优;

4、具备优秀的团队意识和沟通能力,学习能力和主动性强,具有钻研精神,充满激情,乐于接受挑战。

大数据架构师工作的岗位职责 篇17

1. 负责数澜大数据平台的架构设计和研发,建立数据生态服务,解决海量数据面临的挑战;

2. 管理和优化Hadoop、Spark等集群,计算作业的调优,保证集群和平台的高效和稳定;

3. 负责Hadoop、Spark、Flink的功能、性能和扩展,解决并实现业务需求;

4. 负责大数据产品的自动化、离线与实时计算、即席计算、数据质量、数据安全、机器学习等平台的设计和开发;

5. 调研和把握当前的最新技术,将其中的先进技术引入到自己的平台中,改善产品,提升竞争力;

大数据架构师工作的岗位职责 篇18

职责:

1)负责公司软件产品整体架构的设计和关键功能实现

2)负责公司架构长期看护以及优化;

3)负责软件部门各模组间的协调配合;

4)提高巩固软件代码质量;

5)负责大数据流式框架的设计、优化及部署;

6)规划研发部门员工的技术发展路线并提供必要的帮助和指导

任职资格:

1)本科及以上学历,计算机相关专业,5年以上工作经验;

2)频繁换工作,比如一年一个公司,请绕路;

3)3年以上产品架构经验,主导过产品的成功上线;

4)对底层设备通讯协议,B/S系统,手机APP开发等都有一定的了解;

5)对各种主流语言C#\Java\Pathon有一定的了解

5)精通各种大数据架构,并深入研究过其中一种,有storm\kafka等流式实时处理经验为佳

6)能够承担较强的工作压力,有良好的自我驱动能力和责任感;

7)具备优秀的逻辑思维能力、表达能力、沟通协调能力。

大数据架构师工作的岗位职责 篇19

职责

1、负责公司大数据平台的整体架构设计,包含数据收集、数据存储、数据挖掘、数据输出;

2、负责规划从数据源到数据应用的整体流程,并参与用户产品和数据产品的决策;

3、负责海量数据分析、用户行为分析,构建用户数据模型;

4、负责解决核心技术问题,对技术方案进行决策;

5、技术团队管理。

6、熟悉手机IOS、安卓系统APP开发

任职资格

1、计算机相关专业毕业,本科以上学历;

2、5年以上相关工作经验,具备软件产品架构设计经验,熟练掌握高性能、高扩展性架构设计方法;

3、熟练掌握java或c++任意一门语言、熟悉linux操作系统;

4、熟悉Hadoop/MR/Hbase/Mahout/Spark等大数据技术,并能够基于上述项目开发大数据相关应用;

5、熟悉基本数据挖掘方法和技术;

6、强烈的敬业精神,良好的沟通与协调能力,能有效组织协调团队完成各类开发工作;

7、热爱技术,相信数据的价值,对大数据有深刻的理解。

大数据架构师工作的岗位职责 篇20

职责:

1.负责企业数据中心建设,设计数据逻辑模型和物理模型,并完成相关开发

2.梳理公司各业务线常用的指标和维度,统一指标定义口径

3.根据数据应用开发和数据分析需求,设计数据仓库信息层模型,提高数据开发的效率

4.负责数据模型的运营和优化,及时响应业务逻辑变更,保证模型的数据质量和稳定性

5.负责公司数据标签体系的建设,并推动标签体系在实际业务场景中落地

岗位要求:

1.5年以上DW/BI数据架构设计、模型设计和性能调优等相关经验

2.有较强的数据分析能力,精通数据仓库架构,熟悉Erwin或PowerDesigner建模工具

3.精通一种主流关系数据库(如mysql等),熟悉Hive开发

4.有电商业务经验,元数据管理,数据质量管理或标签体系搭建经验者优先

5.优秀的协调沟通与团队协作能力,极强的责任心,能承受一定的工作压力,认同企业文化和团队价值

大数据架构师工作的岗位职责 篇21

职责:

1.负责整个大数据平台架构的设计和构建;

2.负责构建大数据平台的数据交换、任务调度等通用平台;

3.制定开发、测试、实施、维护的标准和规范,指导和培训工程师,不断提升团队能力。

4.参与系统需求分析、架构设计、技术选型、应用设计与开发以及测试与部署,负责编写核心部分代码。

5.持续挑战新的技术方向,攻克大数据量、高并发、高可用、可扩展等技术难点。

任职要求:

1.3年以上大数据架构经验,丰富的数据仓库、数据挖掘、机器学习项目经验

2.大规模数据处理的架构和设计实战经验

3.精通Spark、MR,熟练HDFS、Yarn、Hbase、Hive、MongoDB,熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等,并具有丰富的大型数据平台工程经验

4.深刻理解大数据处理(流计算,分布式计算,分布式文件系统,分布式存储等)相关技术和实现方法

5.熟悉主数据、元数据、数据质量等企业数据管理相关的体系和方法,熟练Linux/Unix平台上的开发环境

6.本科或以上学历,计算机软件或相关专业,丰富的java开发经验和互联网背景优先。

7.具有比较强的问题分析和处理能力,有比较优秀的动手能力,热衷技术,精益求精

大数据架构师工作的岗位职责 篇22

1.负责公司大数据底层框架的整体架构设计,结合公司实际业务情况进行技术选型及大数据战略规划;

2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发,不断提升系统的稳定性和效率;

3.负责架构优化及系统关键模块的设计开发,协助团队解决开发过程中的技术难题;

4.建立良好的公司内外的业界技术影响力;有效辅导团队,提升数据研发能力;

大数据架构师工作的岗位职责 篇23

职责:

1、负责spark, hadoop, flink等开发和优化。

2、参与前期需求沟通和分析,以产品化开发的思维,完成需求分解和数据架构设计。

3、与研发和数据科学家合作保证产品定义清晰,按时完成产品上线。

4、能够洞察市场状况,与各部门合作转化为基于大数据挖掘的新策略或方案.

5、主动创造和发掘新的基于大数据挖掘产品商业模式.

任职要求:

1、全日制本科及以上学历,计算机软件相关专业,5年以上开发经验,3年以上架构经验

2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式数据存储和分布式计算平台原理,流式计算开发,有开源二次开发经验者优先。

3、精通大数据挖掘、机器学习.熟练掌握Java/Perl/Python至少一种编程语言。

4、具有数据挖掘和分析、机器学习等项目实施相关经验者优先;

5、良好的跨部门沟通合作能力,解决不同观点能力并取得结果。具备敏锐的互联网产品理解力,学习能力和逻辑思维能力强;

6、较强的自我驱动力、推动和协调能力,强烈的责任心和团队合作精神;

大数据架构师工作的岗位职责 篇24

职责:

1. 负责产品级业务系统架构(如业务数据对象识别,数据实体、数据属性分析,数据标准、端到端数据流等)的设计与优化。协助推动跨领域重大数据问题的分析、定位、解决方案设计,从架构设计上保障系统高性能、高可用性、高安全性、高时效性、分布式扩展性,并对系统质量负责。

2.负责云数据平台的架构设计和数据处理体系的优化,推动云数据平台建设和持续升级,并制定云数据平台调用约束和规范。

3. 结合行业应用的需求负责数据流各环节上的方案选型,主导云数据平台建设,参与核心代码编写、审查;数据的统计逻辑回归算法、实时交互分析;数据可视化方案等等的选型、部署、集成融合等等。

4. 对云数据平台的关注业内技术动态,持续推动平台技术架构升级,以满足公司不同阶段的数据需求。

任职要求:

1. 熟悉云计算基础平台,包括 Linux(Ubuntu/CentOS)和 KVM、OpenStack/K8S 等基础环境,熟悉控制、计算、存储和网络;

2. 掌握大型分布式系统的技术栈,如:CDN、负载均衡、服务化/异步化、分布式缓存、NoSQL、数据库垂直及水平扩容;熟悉大数据应用端到端的相关高性能产品。

3. 精通 Java,Python,Shell 编程语言,精通 SQL、NoSQL 等数据库增删改查的操作优化;

4. PB 级别实战数据平台和生产环境的实施、开发和管理经验;

5. 熟悉 Docker 等容器的编排封装,熟悉微服务的开发和日常调度;

6.计算机、软件、电子信息及通信等相关专业本科以上学历,5 年以上软件工程开发经验,2 年以上大数据架构师工作经验。

大数据架构师工作的岗位职责 篇25

职责:

1、负责大数据平台技术框架的技术选型和搭建;

2、负责核心技术问题公关,建设高可靠性,扩展性及高性能大数据/数据应用平台;

3、负责规划数据挖掘的整体流程,负责大数据开发团队业务需求开发;

4、与其他团队密切配合,寻求数据层面的业务价值,利用数据分析结论推动产品优化;

5、研究和分享大数据架构领域新技术。

任职要求:

1、计算机相关专业全日制统招本科及以上;

2、5年以上工作经验,至少3年以上大数据项目相关工作经验,能够设计大型大数据系统的架构和技术方案;

3、精通Hadoop/Spark/Hbase/Hive等大数据技术,精通ETL技术;

4、熟悉数据挖掘,了解典型大数据算法和策略;

5、熟悉主流Java技术框架,精通关系型数据库及SQL语言,熟悉NoSQL/JSON/XML;

6、有较强的学习能力和问题解决能力,逻辑严密、思路清晰;

7、有数据仓库经验者优先,有金融行业项目经验者优先。

大数据架构师工作的岗位职责 篇26

1、数据分析软件平台架构搭建

2、负责深度学习核心框架或高性能后台服务系统的架构设计工作,包括系统总体规划、架构设计、系统分析、软件实现、性能优化;

3、指导开发人员开发,并解决系统出现的问题,理解物业需求;

4、制定开发计划和控制开发进度,负责指导研发团队开展设计工作;

大数据架构师工作的岗位职责 篇27

1)负责公司软件产品整体架构的设计和关键功能实现

2)负责公司架构长期看护以及优化;

3)负责软件部门各模组间的协调配合;

4)提高巩固软件代码质量;

5)负责大数据流式框架的设计、优化及部署;

6)规划研发部门员工的技术发展路线并提供必要的帮助和指导

大数据架构师工作的岗位职责 篇28

职责:

1、负责DMP技术架构设计与构建,根据业务规划及技术规划制定应用架构方案;

2、负责设计构建DMP数据采集、存储及分析框架,设计数据处理的技术流程和规范;

3、负责核心功能的架构与代码模板编写,开发与维护系统公用核心模块;

4、负责基于大数据技术的海量数据的自动化分析处理和统计工作。

岗位要求:

1、计算机或相关专业本科以上学历,三年以上的开发经验,二年以上大数据相关软件架构的实际经验;

2、精通大数据处理技术,熟悉Hadoop/Storm技术体系,有Hadoop、Hive、Hbase项目经验;

3、具有较强的架构能力,具有分布式计算、实时计算、数据仓库、数据挖掘系统的架构经历优先;

4、对数据敏感,洞察力强,了解国内外广告发展趋势;

5.、擅长系统分析与设计,精通常用的设计模式,擅长性能调优;

6、熟悉DMP/RTB技术原理,了解用户的行为分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等广告行业从业经历。

大数据架构师工作的岗位职责 篇29

1、负责公司大数据处理框架研发工作,设计与开发分布式存储、数据处理与分析架构。

2、负责大数据平台与产品和相关技术的追踪及研究。

3、负责大数据的处理工作,以及业务数据提取、加载、转换处理流程的开发和优化。

4、利用大数据平台工具对数据维护。

5、负责相关项目的技术支持和服务。

6、持续对系统的技术架构进行改进和优化。

大数据架构师工作的岗位职责 篇30

职责:

1、负责大数据项目或产品中架构设计、数据仓库公共层与应用层建模;

2、负责大数据项目或产品中业务需求的需求理解、数据指标维度需求梳理、数据探查和分析,指导技术团队进行工作;

3、负责大数据项目中的具体技术管理工作,完成验收目标。

4、发现并解决数据质量问题,推动整体数据质量提升。

任职要求:

1、计算机相关专业,3年以上数据研发与数据仓库相关开发经验;

2、熟练掌握维度建模方法,有大型数仓构建经验优先;

3、精通Oracle/DB2/Teradata等主流数据库编程,有较好的SQL性能调优经验;

4、扎实的编程基础和动手能力,精通至少一门编程语言,有大数据、分布式开发经验尤佳;

5、有良好沟通协调能力,有带领小团队或项目管理工作经验;

6、具备很强的责任心,做事细致、严谨,同时需要具备较强的沟通和学习能力,能快速理解行业的需求,对农业等行业数据应用有经验者优先;

7、能够接受出差。

大数据架构师工作的岗位职责 篇31

职责:

1、负责面向政府信领域的企业(不限于)大数据平台、大数据应用等系统的架构设计、技术规划、技术选型

2、跟进业界大数据技术发展动态,匹配行业应用诉求,制定大数据策略,提前识别关键技术并完成技术验证;

3、支撑售前完成项目解决方案技术架构的设计及重要客户的交流;

4、负责指导研发完成大数据产品的开发

5、带领团队进行产品核心技术的创新和积累

岗位要求:

1、熟悉BI和大数据领域的解决方案,具备该领域全面的技术积累,包括报表平台,OLAP引擎和DB,ETL,数据仓库建模和设计,海量分布式数据处理分析架构;

2、在大数据处理和分析领域具有3年或者以上的技术规划、架构设计经验,并有成功的项目实践;

3、4年以上Hadoop实战经验,熟悉Hadoop底层文件系统及分布式计算框架,具备传统数据仓库、MPP、Hadoop等混搭平台架构的设计能力和数据建模能力,对大规模数据并行计算、传输、处理等有丰富的经验;

4、有实际应用storm、spark、flume、kafka等项目经验优先;

5、卓越的技术领导力,善于沟通、发现和解决产品需求阶段、开发阶段和测试阶段的问题,并能提供合理解决方案,有大中型互联网企业工作背景优先。

大数据架构师工作的岗位职责 篇32

职责:

1、 负责大数据仓库、数据集市的规划及实现,负责大数据中台的设计和核心开发工作;

2、 负责数据基础架构和数据处理体系的升级和优化,不断提升系统的稳定性和效率,为公司的业务提供大数据底层平台的支持和保证;

3、 大数据平台的数据采集、处理、存储以及挖掘分析的架构实现;

4、 研究未来数据模型和计算框架的创新与落地,包括但不限于以下领域:大规模数据实时化、研发模式敏捷化、数据计算框架轻量化、数据模型组织方式业务化等方面,参与制定并实践团队的技术发展路线

任职资格:

1、 精通数据建模、数据标准管理、元数据管理、数据质量管理;

2、 有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;

3、 熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于:hadoop、flink、spark等;

4、 性格积极乐观,诚信,能自我驱动,有较强的语言表达能力;具备强烈的进取心、求知欲及团队合作精神;具有良好的沟通、团队协作、计划和创新的能力; 在数据业界有一定的影响力优先,具有风控经验背景的人优先;

5、 具备独立的深度思考能力,给出结合实际情况的较为理想的技术解决方案。