大数据服务开发工程师 |
| 青岛市 · 崂山区经验不限硕士 12K - 20K |
招聘人数:1 |
|
纪琤琤 青岛镭测创芯科技有限公司 |
职位详情 一、岗位定位
负责公司数据接入层、核心数据与计算中台、数据存储层的开发与实施,实现海量气象数据的采集、汇聚、清洗、计算、存储与服务化,支撑上层 AI 与业务应用。
二、核心职责
1. 数据接入与总线开发
- 基于 Apache NiFi 开发数据采集网关,对接卫星、雷达、气象站、IoT 传感器等数据源;
- 开发与维护 Kafka 数据总线,实现高可靠、高吞吐的数据传输。
2. 大数据计算引擎开发
- 基于 Flink 开发实时计算任务,实现气象数据实时处理、告警与指标计算;
- 基于 Spark 开发批处理任务,实现历史数据清洗、聚合与特征工程;
- 基于 Triton 开发交互式查询服务,支撑业务数据查询与分析。
3. 数据存储与服务开发
- 开发与维护时序数据库(InfluxDB)、业务数据库(PostgreSQL)、对象存储(S3/OSS)、科学数据存储(Zarr/NetCDF)等存储服务;
- 开发数据 API 服务,实现数据查询、订阅、分发与可视化。
4. 数据治理与元数据管理
- 开发与维护数据治理平台(Atlas)、资源调度器(K8s/Airflow),实现数据血缘、元数据管理与作业调度。
三、任职要求
5. 基本条件
- 计算机、软件、大数据相关专业本科及以上学历;
- 3 年及以上大数据开发经验。
6. 技术能力
- 精通 Java/Scala/Python,熟悉 Flink/Spark/Hadoop 等大数据框架;
- 熟悉 Kafka、NiFi 等数据采集与传输工具;
- 熟悉时序数据库、关系型数据库、对象存储、科学数据格式;
- 熟悉 Airflow/Azkaban 等调度工具,有数据仓库、数据湖开发经验优先;
- 了解气象数据、科学计算数据处理流程优先。 |
【 请用微信扫一扫投递简历 】