Senior Kafka Engineer
Tech Stack / Keywords
Firma i stanowisko
Szukamy doświadczonego inżyniera do projektu realizowanego dla klienta z sektora finansowego. Celem jest budowa hybrydowego środowiska Kafka, łączącego klastry on-premise z chmurą AWS. Projekt obejmuje wdrożenie rozwiązań Kafka w AWS, implementację replikacji danych oraz stworzenie procesów CI/CD i Infrastructure as Code. Praca w zespole Data Platform współpracującym z inżynierami danych, specjalistami DevOps i ekspertami od bezpieczeństwa.
Wymagania
- Minimum 4 lata komercyjnego doświadczenia w pracy z Apache Kafka.
- Biegła znajomość Confluent Platform w wersji Enterprise oraz Confluent Cloud.
- Praktyczne doświadczenie w migracji i replikacji klastrów przy użyciu MirrorMaker 2, Cluster Linking lub Confluent Replicator.
- Dobra znajomość chmury AWS i jej usług (VPC, IAM, EC2, EKS, MSK, S3, KMS, Secrets Manager).
- Doświadczenie w budowie i utrzymaniu środowisk hybrydowych.
- Umiejętność pisania kodu infrastruktury w Terraform oraz znajomość Ansible.
- Praktyczna znajomość narzędzi CI/CD (GitHub Actions, GitLab CI, Jenkins).
- Umiejętność tworzenia skryptów w językach Python i Bash.
- Doświadczenie z narzędziami do monitoringu (Prometheus, Grafana, OpenTelemetry, Elastic Stack).
- Znajomość zagadnień bezpieczeństwa (TLS, SASL, ACL, RBAC, szyfrowanie danych).
- Doświadczenie w pracy w środowisku zwinnym (Scrum, Kanban).
Obowiązki
- Projektowanie hybrydowej topologii Kafka łączącej środowisko on-premise z AWS.
- Dobór i konfiguracja komponentów Confluent Platform, takich jak Schema Registry, Flink, Control Center i Tableflow.
- Tworzenie klastrów Kafka w AWS (MSK, Confluent Cloud) i wdrażanie monitoringu opartego na Prometheus i Grafana.
- Konfiguracja narzędzi do replikacji i synchronizacji danych (MirrorMaker 2, Cluster Linking, Replicator) z zachowaniem spójności i niskich opóźnień.
- Definiowanie procesów CI/CD dla wdrożeń Kafka, schematów i aplikacji konsumenckich.
- Implementacja infrastruktury w modelu IaC przy użyciu narzędzia Terraform.
- Tworzenie run-booków, obsługa incydentów, optymalizacja wydajności i strojenie konfiguracji.
- Dzielenie się wiedzą i mentoring techniczny mniej doświadczonych członków zespołu.
Inne informacje
Informujemy, że administratorem danych jest Ideamotive Sp. z o. o. z siedzibą w Warszawie, ul. Złota 61/101 (dalej jako "administrator"). Masz prawo do żądania dostępu do swoich danych osobowych, ich sprostowania, usunięcia lub ograniczenia przetwarzania, prawo do wniesienia sprzeciwu wobec przetwarzania, a także prawo do przenoszenia danych oraz wniesienia skargi do organu nadzorczego. Dane osobowe przetwarzane będą w celu realizacji procesu rekrutacji. Podanie danych w zakresie wynikającym z ustawy z dnia 26 czerwca 1974 r. Kodeks pracy jest obowiązkowe. W pozostałym zakresie podanie danych jest dobrowolne. Odmowa podania danych obowiązkowych może skutkować brakiem możliwości przeprowadzenia procesu rekrutacji. Administrator przetwarza dane obowiązkowe na podstawie ciążącego na nim obowiązku prawnego, zaś w zakresie danych dodatkowych podstawą przetwarzania jest zgoda. Dane osobowe będą przetwarzane do czasu zakończenia postępowania rekrutacyjnego i przez okres możliwości dochodzenia ewentualnych roszczeń, a w przypadku wyrażenia zgody na udział w przyszłych postępowaniach rekrutacyjnych - do czasu wycofania tej zgody. Zgoda na przetwarzanie danych osobowych może zostać wycofana w dowolnym momencie. Odbiorcą danych jest serwis Rocket Jobs oraz inne podmioty, którym powierzyliśmy przetwarzanie danych w związku z rekrutacją.
Ideamotive
8 aktywnych ofert