数据工程师‑Trino 开发工程师
Technology
智捷融汇(大连)科技有限公司上海分公司上海-浦东新区, 中国¥35,000 - ¥40,000 /月1个月前
职位描述
所需技能与资格 • 具备 Trino(或 PrestoSQL/Presto)的实际生产使用经验。 • 拥有扎实且深入的 SQL 技能——能够处理复杂分析查询、窗口函数、通用表达式(CTE)、查询优化。 • 熟练使用 Apache Iceberg(或类似开放表格式,如 Delta Lake、Hudi),包括模式/分区演化及表维护。 • 具备 Snowflake 和/或 Apache Spark 的实际经验,足以阅读、理解并迁移现有工作负载。 • 理解分布式查询执行:MPP 架构、连接分布、内存/溢出行为、分区剪枝以及谓词下推。 • 有云对象存储和列式文件格式(Parquet、ORC)的经验。 • 至少掌握一种编程语言(Python、Java 或 Scala),用于工具开发、用户自定义函数(UDF)和自动化。 • 掌握版本控制(Git)以及数据流水线的 CI/CD 实践。 加分项 / 建议具备 • 有主导大规模从 Snowflake 到 Trino 或 Spark 到 Trino 迁移的经验。 • 熟悉 Trino 集群管理及在 Kubernetes 上的部署。 • 有工作流编排(Airflow、Dagster 或类似工具)和 dbt 的经验。 • 有构建数据验证/一致性框架以确保迁移一致性方面的经验。 • 了解 Trino 内部机制或连接器开发(贡献自定义连接器/UDF)。 • 能将流式数据/CDC 数据导入 Iceberg(Kafka、Flink、Debezium)。 • 数据治理、数据血缘追踪及成本优化工具。
Keywords
5-10年ScalaApache KafkaApache SparkPrestoAirflowPythonApache ParquetSqlApache LicenseApache Http ServerJavaOrcCI / CDMusepackGitKubernetesCI/CD
对这个职位感兴趣吗?