Data Engineer (Fintech)
Описание
Локация: удалённый формат, Москва/Россия
Зарплата: от 230 000 ₽ на руки в месяц; стартовая вилка — 200 000 ₽, итоговая сумма обсуждается по опыту
Компания
Маркетплейс цифровых товаров и услуг, работающий на стыке гейминга, финтеха и электронной коммерции.
Что делать
Разрабатывать и поддерживать ETL/ELT-пайплайны в Airflow для загрузки данных из внутренних систем и внешних источников в ClickHouse и PostgreSQL.
Развивать слои данных staging, DDS и витрины с помощью dbt, включая модели, инкрементальную загрузку, тесты и документацию.
Настраивать и сопровождать CDC-репликацию из операционных PostgreSQL-баз в аналитическое хранилище через Debezium и Kafka.
Оптимизировать хранение и запросы в ClickHouse: схемы таблиц, партиционирование, ключи сортировки и материализованные представления.
Контролировать качество данных, валидировать витрины и настраивать алертинг при сбоях пайплайнов.
Участвовать в code review и развитии инженерных практик с использованием Git и CI/CD.
Требования
От 1 года до 3 лет опыта в разработке данных.
Опыт работы с Airflow, ClickHouse и PostgreSQL.
Знание dbt, ETL/ELT-подходов и практик моделирования данных.
Опыт работы с Kafka и Debezium для CDC-репликации.
Понимание тестирования, валидации и мониторинга качества данных.
Готовность работать удалённо в режиме 5/2 по 8 часов в день.
Хорошо, если есть
Интеграция Kafka с ClickHouse через Kafka Engine или Kafka Connect.
Опыт работы с Docker и Kubernetes.
Опыт использования S3 или MinIO как промежуточного слоя.
Знание Data Vault, dimensional modeling и SCD Type 2.
Опыт настройки мониторинга и алертинга пайплайнов в Slack или Telegram.
Культура и преимущества
Удалённое сотрудничество.
Можно выбрать форму сотрудничества и оплаты; налоги оплачиваются компанией.
Онбординг с постепенным погружением в продукт и подключением к команде.
Оплачиваемые отпуск и больничный.
Работа в команде инициативных специалистов.