Data Engineer | Wroclaw

Brak informacji o wynagrodzeniu
SeniorFull-time·B2B
#438227·Dodano wczoraj·0
Źródło: justjoin.it
Aplikuj teraz

Tech Stack / Keywords

Azure Data FactoryPySparkPythonAzure DatabricksETL/ELTMicrosoft Azure

Firma i stanowisko

We are looking for a Data Engineer with strong hands-on experience in Azure Data Factory (ADF) to join a long-term project with a major international Swiss investment bank.

Wymagania

  • 6–10 years of overall IT experience.
  • 4–5 years of hands-on experience in PySpark and Python development.
  • Strong understanding of data engineering principles and modern data pipeline architectures.
  • Proven expertise in PySpark (Spark SQL, DataFrames, performance tuning).
  • Proven expertise in Python scripting and application development.
  • Proven expertise in Azure Data Factory (ADF) orchestration and pipeline development.
  • Strong knowledge of data optimization techniques, including partitioning, caching, joins, and query optimization.
  • Experience working with large-scale distributed data processing systems.
  • Strong analytical and problem-solving skills.
  • Good understanding of SQL, database concepts, and data modeling.

Nice-to-Have:

  • Hands-on experience with Azure Databricks (ADB).
  • Exposure to cloud technologies, preferably Microsoft Azure.
  • Experience with CI/CD pipelines and DevOps practices for data engineering.
  • Knowledge of Data Lake and Lakehouse architectures.
  • Familiarity with modern data governance and monitoring practices.

Obowiązki

  • Design, develop, and maintain scalable data pipelines using PySpark and Python.
  • Build and optimize ETL/ELT workflows for processing large volumes of data.
  • Write efficient, reusable, and high-performance code with a strong focus on optimization.
  • Process and manage structured and unstructured data from multiple sources.
  • Implement best practices related to data engineering, performance tuning, and code quality.
  • Develop, orchestrate, and monitor data workflows using Azure Data Factory (ADF).
  • Collaborate with Data Scientists, Data Analysts, Solution Architects, and other stakeholders.
  • Ensure data quality, reliability, and integrity across all data platforms.
  • Troubleshoot and resolve performance bottlenecks in data processing pipelines.
  • Contribute to data architecture discussions and continuous improvement initiatives.

Benefity

  • Stable long-term cooperation with opportunity for extension.
  • Opportunity to work with modern technologies in an international environment.
  • Professional growth and continuous development opportunities.
  • Participation in challenging and impactful projects.

Inne informacje

Informujemy, że administratorem danych jest z siedzibą w , ul.(dalej jako "administrator"). Masz prawo do żądania dostępu do swoich danych osobowych, ich sprostowania, usunięcia lub ograniczenia przetwarzania, prawo do wniesienia sprzeciwu wobec przetwarzania, a także prawo do przenoszenia danych oraz wniesienia skargi do organu nadzorczego. Dane osobowe przetwarzane będą w celu realizacji procesu rekrutacji. Podanie danych w zakresie wynikającym z ustawy z dnia 26 czerwca 1974 r. Kodeks pracy jest obowiązkowe. W pozostałym zakresie podanie danych jest dobrowolne. Odmowa podania danych obowiązkowych może skutkować brakiem możliwości przeprowadzenia procesu rekrutacji. Administrator przetwarza dane obowiązkowe na podstawie ciążącego na nim obowiązku prawnego, zaś w zakresie danych dodatkowych podstawą przetwarzania jest zgoda. Dane osobowe będą przetwarzane do czasu zakończenia postępowania rekrutacyjnego i przez okres możliwości dochodzenia ewentualnych roszczeń, a w przypadku wyrażenia zgody na udział w przyszłych postępowaniach rekrutacyjnych - do czasu wycofania tej zgody. Zgoda na przetwarzanie danych osobowych może zostać wycofana w dowolnym momencie. Odbiorcą danych jest serwis Just Join IT oraz inne podmioty, którym powierzyliśmy przetwarzanie danych w związku z rekrutacją.

DCV Technologies

DCV Technologies

58 aktywnych ofert

Zobacz wszystkie oferty
Aplikuj teraz