Senior Data Engineer | Krakow
Tech Stack / Keywords
Firma i stanowisko
DCV Technologies is recruiting a Senior Data Engineer with 7+ years of experience in data engineering and Python development, focusing on projects in the Banking, Financial Services, and Insurance (BFSI) domain.
Wymagania
- Strong experience in Data Engineering and Python development.
- Hands-on expertise in FastAPI, including API development, integration, enhancement, and maintenance.
- Extensive experience with Databricks, PySpark, SQL, and Delta Lake.
- Proven experience with Unity Catalog migration and Databricks data governance.
- Strong hands-on experience with Databricks Structured Streaming and real-time data processing.
- Experience working with Oracle, SQL Server, and Informatica.
- Ability to independently design, develop, and implement scalable and high-performance data engineering solutions.
- Good understanding of the Banking, Financial Services, and Insurance (BFSI) domain.
Nice to have:
- Experience with Microsoft Azure Cloud and Databricks administration.
- Hands-on experience with CI/CD, Git, Azure DevOps, and/or GitLab.
- Strong understanding of Apache Spark performance tuning and optimization.
- Experience providing technical leadership, mentoring engineers, and managing stakeholder communication.
- Databricks certifications would be an added advantage.
Obowiązki
- Design, develop, enhance, and maintain FastAPI-based services, APIs, and integrations.
- Build and optimize scalable ETL/ELT data pipelines using Databricks, PySpark, SQL, and Delta Lake.
- Lead and contribute to Unity Catalog migration and broader data modernization initiatives.
- Design and implement real-time data processing and streaming solutions using Databricks Structured Streaming.
- Perform Spark and Databricks performance tuning to improve scalability, reliability, and processing efficiency.
- Integrate and work with enterprise data sources including Oracle, SQL Server, and Informatica.
- Ensure solutions follow enterprise standards for data quality, security, governance, scalability, and reliability.
- Collaborate closely with business stakeholders, data architects, engineering teams, and vendors to deliver enterprise-grade data solutions.
- Provide technical guidance, contribute to solution architecture, and support the delivery of complex data engineering initiatives.
- Troubleshoot production issues and drive continuous improvement of data platforms and services.
Inne informacje
Informujemy, że administratorem danych jest z siedzibą w , ul.(dalej jako "administrator"). Masz prawo do żądania dostępu do swoich danych osobowych, ich sprostowania, usunięcia lub ograniczenia przetwarzania, prawo do wniesienia sprzeciwu wobec przetwarzania, a także prawo do przenoszenia danych oraz wniesienia skargi do organu nadzorczego. Dane osobowe przetwarzane będą w celu realizacji procesu rekrutacji. Podanie danych w zakresie wynikającym z ustawy z dnia 26 czerwca 1974 r. Kodeks pracy jest obowiązkowe. W pozostałym zakresie podanie danych jest dobrowolne. Odmowa podania danych obowiązkowych może skutkować brakiem możliwości przeprowadzenia procesu rekrutacji. Administrator przetwarza dane obowiązkowe na podstawie ciążącego na nim obowiązku prawnego, zaś w zakresie danych dodatkowych podstawą przetwarzania jest zgoda. Dane osobowe będą przetwarzane do czasu zakończenia postępowania rekrutacyjnego i przez okres możliwości dochodzenia ewentualnych roszczeń, a w przypadku wyrażenia zgody na udział w przyszłych postępowaniach rekrutacyjnych - do czasu wycofania tej zgody. Zgoda na przetwarzanie danych osobowych może zostać wycofana w dowolnym momencie. Odbiorcą danych jest serwis Just Join IT oraz inne podmioty, którym powierzyliśmy przetwarzanie danych w związku z rekrutacją.
DCV Technologies
67 aktywnych ofert