标题 | 数据仓库工程师的工作职责 |
范文 | 数据仓库工程师的工作职责 数据仓库工程师的工作职责1职责 1、负责数据ETL开发,优化ETL流程设计; 2、负责数据质量问题的分析、跟进、解决,进行数据质量监测、校验和提升; 3、负责ETL开发实施文档的编写; 4、负责梳理公司数据仓库/数据集市数据清单、数据映射关系,优化现有数据仓库模型; 5、完善和梳理数据指标体系,完成和维护数据字典的工作; 6、参与数据标准的制定、数据标准管理和数据安全管理工作; 7、参与公司大数据平台的建设,包括Sugar报表或神策接口配置,用户画像标签体系的开发等 任职要求: 1、有shell或Python脚本开发经验; 2、有传统数据库SQLServer和MySQL,有存储过程编写能力; 3、熟悉Hadoop生态相关技术并有相关实践经验,包括但不限于Sqoop、Hive、HBase、Kylin等开发经验; 4、有kettle、azkaban或oozie工作流调度经验; 5、熟悉HiveSQL或FlinkSQL的开发; 6、有数据仓库模型设计,有使用kafka+FlinkStreaming实时数据处理经验优先; 7、有Sugar、神策或Tableau使用经验,有用户画像或客户召回标签工作经验优先; 8、对数据挖掘和机器学习有所了解,包括常用的机器学习算法和数据建模过程的优先 数据仓库工程师的工作职责2职责: 1、负责数据源导入、清洗、集成等工作,优化ETL流程并解决ETL相关技术问题; 2、负责参与数据模型体系构建及数据主题设计和开发,数据仓库和业务数据集市的建设; 3、负责数据集市需求调研和需求分析; 4、基于阿里云Maxcompute,进行数据开发工作。 岗位要求: 1、3年或以上数据仓库开发和模型设计经验; 2、深入理解DW,BI相关的知识,包括:ETL、数据仓库、OLAP、多维数据模型等; 3、熟悉MapReduce、Hive原理; 4、精通SQL,能够熟练使用HiveSQL进行数据开发; 5、具有良好的团队协作精神和沟通能力,较强的逻辑思维,学习能力和解决问题的能力,可承担较大的工作压力; 6、熟悉阿里云大数据开发平台优先,如Maxcompute; 7、熟悉跨境电商及供应链业务优先。 数据仓库工程师的工作职责3职责: 1、参与数据仓库及ETL基础架构规划、安全规划制定; 2、负责数据仓库及ETL的开发、测试和优化,并及时解决相关技术问题; 3、负责相关数据准确性验证及报表等日常维护; 4、报表性能优化:对存在性能问题的数据报表进行优化; 5、数据运维:及时处理线上问题; 6、完成上级交代的其他工作。 岗位要求: 1、计算机相关专业本科及以上学历,2年以上ETL开发或数仓相关工作经验; 2、熟练使用Oracle、MySQL、PostgreSQL等主流数据库,具有较强的SQL编写、优化能力,熟悉存储过程编写; 3、熟悉数据仓库数据处理流程,有一定的数据建模能力; 4、具有良好的沟通理解能力,能根据业务提出的需求,快速理解并落地实施; 5、有Kettle、Greenplum开发经验者优先。 数据仓库工程师的工作职责4职责: 1、负责数据仓库架构设计与开发 2、根据业务调研,设计信息模型与数据模型,负责大数据建模、ETL、数据产品及平台的`设计与开发 3、满足业务数据需求,设计面向业务的数据集市模型 4、需求的沟通与数据开发项目管理 5、基于Hadoop生态的程序设计、开发和维护 岗位要求: 1、熟悉SQL语言,至少熟悉Oracle、MySQL、SQLsever一种及以上 2、精通数据库系统(Oracle、SQL、mysql等):精通熟悉Oracle数据库体系结构,基础扎实;精通熟悉DataGuardRAC等高可用技术,能顺利的配置和管理dataGuard;精通熟悉Oracle的备份与恢复技术;熟悉SQL和PLSQL,能编写日常维护需要的脚本 3、从事过数仓逻辑模型、物理模型设计与实施等工作 4、有使用Hive、Hbase、kettle等相关应用经验更佳 数据仓库工程师的工作职责5职责: 1、负责直播业务相关数据仓库的数据模型设计; 3、参与数据仓库ETL流程设计、开发和优化,解决ETL过程相关技术问题; 3、参与项目规划,数据采集设计,数据仓库开发,模型开发,报表开发等; 4、总结数据仓库建模的方法,负责数据产品平台化和系统化; 任职资格: 1、2年及以上的数据仓库/BI相关研发经验,对数据和业务敏感,有较好的数据模型设计能力; 2、熟悉数据仓库各类模型建模理论,了解数据仓库数据分层架构,多维数据模型设计; 3、熟练使用Hadoop/Spark/Hive/HBase/Mysql,有列式数据库/Kylin/ElasticSearch等经验者优先; 4、有较强的编程能力和编程经验,至少熟悉Java/Scala/Python/PHP等其中一门编程语言; 5、参与过大型数据仓库架构设计、模型设计、ETL设计,具备海量数据处理、性能调优经验; 6、学习能力强,热衷开源技术,有团队观念,具备独立解决问题的能力; |
随便看 |
|
范文网提供海量优质实用美文,包含随笔、日记、古诗文、实用文、总结、计划、祝福语、句子、职场文档等范文,为您写作提供指导和优质素材。