Data Engineer

W Scalo zajmujemy się dostarczaniem projektów software'owych i wspieraniem naszych partnerów w rozwijaniu ich biznesu. Tworzymy oprogramowanie, które umożliwia ludziom dokonywanie zmian, działanie w szybszym tempie oraz osiąganie lepszych rezultatów. Wykorzystujemy szerokie spektrum usług IT, aby wspierać naszych klientów w realizacji ich celów biznesowych. Obszary naszej działalności obejmują m.in.: doradztwo technologiczne, tworzenie oprogramowania, systemy wbudowane, rozwiązania chmurowe, zarządzanie danymi, dedykowane zespoły projektowe.

• Minimum 2 lata komercyjnego doświadczenia w obszarze Data Engineering, integracji lub przetwarzania danych
• Praktyczne doświadczenie w pracy z Google Cloud Platform, w szczególności BigQuery, Cloud Storage oraz Pub/Sub
• Doświadczenie w projektowaniu i implementacji procesów migracji danych do środowisk chmurowych
• Praktyczna znajomość baz danych Oracle oraz doświadczenie w tworzeniu i optymalizacji zapytań SQL
• Doświadczenie w pracy z dużymi wolumenami danych i analizie wydajności zapytań
• Znajomość modelowania danych oraz projektowania logicznych i fizycznych modeli danych
• Praktyczne doświadczenie z Informatica PowerCenter umożliwiające analizę oraz modyfikację procesów ETL
• Znajomość języka Python w zakresie implementacji logiki przetwarzania danych
• Doświadczenie w pracy z repozytoriami kodu oraz procesami CI/CD
• Umiejętność przygotowywania testów jednostkowych i integracyjnych oraz dokumentacji technicznej

Nice to have:

• Doświadczenie w migracji hurtowni danych z Oracle do BigQuery
• Znajomość PostgreSQL
• Doświadczenie w projektach realizowanych dla sektora finansowego lub bankowego
• Znajomość praktyk DevOps oraz monitorowania procesów danych

• Świadczenie usług w ramach projektu migracji środowiska bazodanowego Oracle do Google Cloud Platform, z wykorzystaniem BigQuery, Pub/Sub oraz Cloud Storage
• Projektowanie, implementacja i rozwój rozwiązań Data Engineering na platformie GCP
• Migracja oraz przebudowa procesów przetwarzania i zasilania danych ze środowisk on-premise do Google Cloud Platform
• Projektowanie i rozwój procesów batch oraz streaming, wraz z mechanizmami kontroli jakości danych, obsługi błędów i ponawiania przetwarzania
• Modelowanie danych oraz optymalizacja struktur i zapytań SQL dla dużych wolumenów danych z uwzględnieniem wydajności, skalowalności i kosztów przetwarzania
• Analiza oraz migracja istniejących procesów ETL opartych o Informatica PowerCenter do architektury docelowej w GCP
• Implementacja logiki transformacji i walidacji danych z wykorzystaniem SQL oraz Python
• Współpraca przy analizie technicznej, testach, wdrożeniach oraz przygotowywaniu dokumentacji technicznej