Перейти до основного вмісту

Data Engineer

Technology
Укрексімбанк, АТ
Kyiv, Україна1 місяць тому
Повна зайнятістьВ офісі

Опис вакансії

УКРЕКСІМБАНК запрошує прийняти участь у конкурсі на вакансію Data Engineer

Ми шукаємо Дата інженера для побудови та супроводження ETL/ELT-пайплайнів у команду дата інженерів . Головна задача - проєктування, розробка та надійна експлуатація конвеєрів даних між джерелами (Oracle / PostgreSQL) та цільовими сховищами (PostgreSQL, AWS), з оркестрацією через Apache Airflow.

З нами ви отримаєте:

  • Роботу в державному експортно-імпортному банку;
  • Офіційне працевлаштування;
  • Додаткові дні календарної відпустки;
  • Доступ до програм навчання та тренінгів;
  • Широкі можливості для професійного розвитку.
Функціональні обов'язки:
  • Розробка та підтримка DAG'ів в Apache Airflow: розклад, залежності, retry-логіка, алертинг
  • Побудова ETL/ELT-пайплайнів для завантаження даних з Oracle та/PostgreSQL

  • Реалізація інкрементальних (delta) завантажень за датою/ID з автоматичним визначенням змін

  • Оптимізація продуктивності завантажень (bulk-операції, COPY FROM STDIN, партиціювання)

  • Побудова пайплайнів вивантаження даних у AWS (S3, Parquet-формат )

  • Реалізація інкрементальних (delta) завантажень за датою/ID з автоматичним визначенням змін

  • Оптимізація продуктивності завантажень (bulk-операції, COPY FROM STDIN, партиціювання)

  • Побудова пайплайнів вивантаження даних у AWS (S3, Parquet-формат )

  • Моніторинг якості даних: валідація, узгодженість схем, обробка помилок і дублікатів

  • Супроводження існуючих пайплайнів: діагностика збоїв, рефакторинг, документування

  • Взаємодія з аналітиками та власниками систем-джерел для узгодження структур даних
  • Ведення технічної документації по пайплайнах і схемах даних
Наші очікування:

  • Вища освіта
  • Досвід роботи з Apache Airflow від 1 року (DAG'и, оператори, sensors, XCom)
  • Впевнене знання SQL та досвід роботи з Oracle або MSSQL
  • Досвід роботи з PostgreSQL як цільовою СУБД
  • Python на рівні написання production-коду (ETL-скрипти, обробка помилок, логування)
  • Розуміння принципів ETL/ELT: full load, incremental load, CDC
  • Базовий досвід роботи з AWS (S3 щонайменше; розуміння IAM/ролей доступу)
  • Розуміння роботи з форматом Parquet та колонковими сховищами
Буде плюсом:
  • PL/SQL (пакети, процедури, тригери) - при роботі з Oracle
  • Docker / Docker Compose
  • BI-інструменти (Superset, Power BI тощо)
  • Досвід у банківській/регульованій сфері
  • AWS
Просимо надсилати розгорнуті резюме із зазначенням назви вакансії та бажаного рівня з/п.

Ми уважно розглядаємо кожне отримане резюме. Якщо ви не отримали відповідь протягом 14-ти днів, це означатиме, що на даний момент у нас немає вакансії, яка відповідає вашому досвіду роботи та кваліфікації.

Keywords
RokuMicrosoft SQL ServerApache AirflowOracle DatabaseAirflowFlip-flopPl/sqlPostgresqlPythonApache ParquetSqlApache LicenseApache Http Server

Вас цікавить ця вакансія?