Big Data Developer Spark

Projekt realizowany jest w obszarze bankowości B2B i B2C, w domenie C-Profit odpowiedzialnej za konsolidację i udostępnianie zespołom sprzedaży transakcji na produktach finansowych banku inwestycyjnego, w ramach modernizacji platformy danych opartej na technologiach Big Data oraz równoległej migracji do Azure.

• Minimum 4-5 lat doświadczenia w rozwoju oprogramowania.
• Praktyczne stosowanie TDD (Test-Driven Development).
• Wykształcenie wyższe kierunkowe (informatyka / inżynieria oprogramowania).
• Ekspercka znajomość Spark, Java, Hive oraz SQL.
• Biegła znajomość języka angielskiego.

Mile widziane:

• Doświadczenie z DevOps, CI/CD oraz architekturą mikroserwisów i API.
• Znajomość narzędzi Big Data oraz systemu kontroli wersji Git.
• Znajomość Pythona, w tym w kontekście Airflow.

• Dokumentacja techniczna, plany testów oraz deliverables projektowe dostarczane etapami.
• Projektowanie i wdrożenie rozwiązań do zbierania, transformacji i przetwarzania dużych zbiorów danych z użyciem Spark, Java, Hive i SQL.
• Tworzenie jobów przetwarzania i mapowania danych z wykorzystaniem Spark/Scala, zgodnie z wymaganiami biznesowymi.
• Analiza danych z wielu źródeł oraz opracowanie specyfikacji technicznych na podstawie wyników.
• Rekomendacje dotyczące strategii architektury Big Data, konsultowane z interesariuszami.
• Industrializacja procesów przetwarzania danych pod kątem niezawodności, odporności i wydajności.
• Zapewnienie wsparcia aplikacji oraz rozwiązywanie problemów produkcyjnych.