Snowflake Data Engineer

Dla jednego z naszych klientów, firmy konsultingowej poszukujemy Snowflake Data Engineera, który dołączy do rozwijającego się zespołu Data & Analytics pomagając klientom rozwiązywać złożone wyzwania biznesowe przy wykorzystaniu danych i nowoczesnych technologii. W zespole analizujemy dane, aby wydobywać z nich największą wartość i identyfikować nowe możliwości biznesowe w takich branżach jak bankowość, ubezpieczenia, produkcja, opieka zdrowotna, handel detaliczny, motoryzacja, łańcuch dostaw oraz finanse.

• Praktyczne doświadczenie w obszarze hurtowni danych (Data Warehouse) oraz procesów ETL.
• Bardzo dobra znajomość platformy Snowflake oraz modelowania danych, w tym znajomość ról, schematów, baz danych i polityk bezpieczeństwa.
• Praktyczna znajomość mechanizmów Tasks, Streams oraz Stages w Snowflake.
• Doświadczenie w integracji danych z wykorzystaniem narzędzi takich jak Matillion, Palantir, Informatica, dbt lub podobnych.
• Doświadczenie w budowie potoków danych do przetwarzania wsadowego i strumieniowego (real-time) dla danych ustrukturyzowanych i nieustrukturyzowanych.
• Znajomość Kafka oraz NiFi w zakresie przesyłania, pobierania i przetwarzania danych.
• Bardzo dobra znajomość usług AWS, w szczególności S3, Lambda, EMR oraz Glue.
• Wiedza na temat wzorców przetwarzania danych, systemów rozproszonych oraz budowy rozwiązań analityki wsadowej i czasu rzeczywistego.
• Doświadczenie w pracy z dużymi zbiorami danych oraz ich analizą i przetwarzaniem z wykorzystaniem baz SQL i NoSQL oraz języków programowania takich jak Java, Scala lub Python.
• Znajomość formatów danych ORC, Parquet oraz AVRO oraz technik kompresji i optymalizacji zapytań.
• Wiedza z zakresu DevOps oraz konteneryzacji; doświadczenie we wdrażaniu rozwiązań będzie dodatkowym atutem.

Nice to have:

• Umiejętność budowania i utrzymywania relacji z klientami.
• Znajomość zaawansowanych funkcji Snowflake, takich jak konfiguracja Resource Monitors oraz optymalizacja wydajności.
• Doświadczenie w pracy zgodnie z metodykami Agile.
• Samodzielność, proaktywne podejście oraz odpowiedzialność za realizowane zadania.
• Bardzo dobre umiejętności komunikacyjne w mowie i piśmie.
• Udział we wszystkich etapach cyklu życia rozwiązań Big Data – od analizy, projektowania, rozwoju, testowania, aż po wdrożenie produkcyjne i utrzymanie.

• Projektowanie, rozwój oraz wdrażanie potoków danych (Big Data Pipelines) w środowisku chmurowym z wykorzystaniem Snowflake.
• Projektowanie, rozwój i migracja procesów ETL z rozwiązań on-premise do środowiska chmurowego.
• Współpraca z kadrą zarządzającą w celu zrozumienia celów biznesowych oraz realizacji powierzonych obszarów projektowych.
• Projektowanie i optymalizacja kodu oraz modeli danych pod kątem wydajności i szybszego przetwarzania.