emagine
emagine
New

Data Engineer - Mid - Remote Hibrido Lisboa

Brak informacji o wynagrodzeniu
MidFull-time
#446489·Dodano wczoraj·0
Źródło: justjoin.it
Aplikuj teraz

Tech Stack / Keywords

SecuritySQLPythonData securityDataStage (ETL)ETLstrategyMicrosoft AzureGovernanceSpark

Wymagania

  • Experiência sólida em construção, otimização e manutenção de pipelines de dados ETL/ELT.
  • Conhecimento aprofundado em arquiteturas de dados, incluindo camadas raw, bronze, silver e gold.
  • Domínio de Spark, SQL, Python, e Delta Lake.
  • Experiência com o ecossistema Microsoft Azure, especialmente Azure Fabric.
  • Competência em garantir segurança e qualidade de dados, incluindo testes, validações e elaboração de políticas de acesso e governança.
  • Capacidade de atuar estrategicamente para garantir escalabilidade e interoperabilidade dos sistemas.
  • Habilidade para balancear visão técnica e de produto, servindo como interface entre equipe técnica e stakeholders.
  • Experiência em automação, monitoramento e avaliação contínua para inovação e otimização de performance e custos.

Obowiązki

Estruturação do Pipeline de Dados:

  • Constrói, otimiza e mantém pipelines de ingestão, transformação e carga de dados (ETL/ELT).
  • Define a arquitetura dos pipelines, os padrões, camadas (raw, bronze, silver, gold) e governança.
  • Coordena a implementação técnica dos pipelines, garantindo boas práticas e padrões definidos pela arquitetura.

Visão Técnica e Estratégica:

  • Foco na execução técnica, performance e confiabilidade do código e jobs.
  • Foco em escalabilidade, interoperabilidade entre sistemas, e desenho da malha de dados.
  • Equilibra visão técnica e de produto; atua como ponte entre time técnico e stakeholders.

Ferramentas e Tecnologias:

  • Especialista em Spark, SQL, Python, Delta Lake e Arquitetura de dados.
  • Escolhe as ferramentas e tecnologias do ecossistema - Azure Fabric.
  • Garante que o time esteja capacitado nas tecnologias escolhidas e ajuda a resolver gargalos técnicos.

Segurança e Qualidade dos Dados:

  • Implementa testes, validações, e lida com tratamento de erros e dados corrompidos.
  • Define padrões de qualidade, catalogação, segurança e políticas de acesso.
  • Garante que essas diretrizes sejam seguidas no dia a dia do time.

Evolução Contínua e Inovação:

  • Automatiza e monitora para melhorar continuamente performance e custo.
  • Avalia e propõe novas abordagens arquiteturais conforme o crescimento do negócio.
  • Estimula inovação no time, promove POCs e adoção de novas soluções alinhadas à estratégia.

Inne informacje

Informujemy, że administratorem danych jest emagine z siedzibą w Warszawie, ul.Domaniewskiej 39A (dalej jako "administrator"). Masz prawo do żądania dostępu do swoich danych osobowych, ich sprostowania, usunięcia lub ograniczenia przetwarzania, prawo do wniesienia sprzeciwu wobec przetwarzania, a także prawo do przenoszenia danych oraz wniesienia skargi do organu nadzorczego. Dane osobowe przetwarzane będą w celu realizacji procesu rekrutacji. Podanie danych w zakresie wynikającym z ustawy z dnia 26 czerwca 1974 r. Kodeks pracy jest obowiązkowe. W pozostałym zakresie podanie danych jest dobrowolne. Odmowa podania danych obowiązkowych może skutkować brakiem możliwości przeprowadzenia procesu rekrutacji. Administrator przetwarza dane obowiązkowe na podstawie ciążącego na nim obowiązku prawnego, zaś w zakresie danych dodatkowych podstawą przetwarzania jest zgoda. Dane osobowe będą przetwarzane do czasu zakończenia postępowania rekrutacyjnego i przez okres możliwości dochodzenia ewentualnych roszczeń, a w przypadku wyrażenia zgody na udział w przyszłych postępowaniach rekrutacyjnych - do czasu wycofania tej zgody. Zgoda na przetwarzanie danych osobowych może zostać wycofana w dowolnym momencie. Odbiorcą danych jest serwis Just Join IT oraz inne podmioty, którym powierzyliśmy przetwarzanie danych w związku z rekrutacją.

emagine

emagine

868 aktywnych ofert

Zobacz wszystkie oferty
Aplikuj teraz