Data Engineer - Mid - Remote Hibrido Lisboa
Tech Stack / Keywords
Wymagania
- Experiência sólida em construção, otimização e manutenção de pipelines de dados ETL/ELT.
- Conhecimento aprofundado em arquiteturas de dados, incluindo camadas raw, bronze, silver e gold.
- Domínio de Spark, SQL, Python, e Delta Lake.
- Experiência com o ecossistema Microsoft Azure, especialmente Azure Fabric.
- Competência em garantir segurança e qualidade de dados, incluindo testes, validações e elaboração de políticas de acesso e governança.
- Capacidade de atuar estrategicamente para garantir escalabilidade e interoperabilidade dos sistemas.
- Habilidade para balancear visão técnica e de produto, servindo como interface entre equipe técnica e stakeholders.
- Experiência em automação, monitoramento e avaliação contínua para inovação e otimização de performance e custos.
Obowiązki
Estruturação do Pipeline de Dados:
- Constrói, otimiza e mantém pipelines de ingestão, transformação e carga de dados (ETL/ELT).
- Define a arquitetura dos pipelines, os padrões, camadas (raw, bronze, silver, gold) e governança.
- Coordena a implementação técnica dos pipelines, garantindo boas práticas e padrões definidos pela arquitetura.
Visão Técnica e Estratégica:
- Foco na execução técnica, performance e confiabilidade do código e jobs.
- Foco em escalabilidade, interoperabilidade entre sistemas, e desenho da malha de dados.
- Equilibra visão técnica e de produto; atua como ponte entre time técnico e stakeholders.
Ferramentas e Tecnologias:
- Especialista em Spark, SQL, Python, Delta Lake e Arquitetura de dados.
- Escolhe as ferramentas e tecnologias do ecossistema - Azure Fabric.
- Garante que o time esteja capacitado nas tecnologias escolhidas e ajuda a resolver gargalos técnicos.
Segurança e Qualidade dos Dados:
- Implementa testes, validações, e lida com tratamento de erros e dados corrompidos.
- Define padrões de qualidade, catalogação, segurança e políticas de acesso.
- Garante que essas diretrizes sejam seguidas no dia a dia do time.
Evolução Contínua e Inovação:
- Automatiza e monitora para melhorar continuamente performance e custo.
- Avalia e propõe novas abordagens arquiteturais conforme o crescimento do negócio.
- Estimula inovação no time, promove POCs e adoção de novas soluções alinhadas à estratégia.
Inne informacje
Informujemy, że administratorem danych jest emagine z siedzibą w Warszawie, ul.Domaniewskiej 39A (dalej jako "administrator"). Masz prawo do żądania dostępu do swoich danych osobowych, ich sprostowania, usunięcia lub ograniczenia przetwarzania, prawo do wniesienia sprzeciwu wobec przetwarzania, a także prawo do przenoszenia danych oraz wniesienia skargi do organu nadzorczego. Dane osobowe przetwarzane będą w celu realizacji procesu rekrutacji. Podanie danych w zakresie wynikającym z ustawy z dnia 26 czerwca 1974 r. Kodeks pracy jest obowiązkowe. W pozostałym zakresie podanie danych jest dobrowolne. Odmowa podania danych obowiązkowych może skutkować brakiem możliwości przeprowadzenia procesu rekrutacji. Administrator przetwarza dane obowiązkowe na podstawie ciążącego na nim obowiązku prawnego, zaś w zakresie danych dodatkowych podstawą przetwarzania jest zgoda. Dane osobowe będą przetwarzane do czasu zakończenia postępowania rekrutacyjnego i przez okres możliwości dochodzenia ewentualnych roszczeń, a w przypadku wyrażenia zgody na udział w przyszłych postępowaniach rekrutacyjnych - do czasu wycofania tej zgody. Zgoda na przetwarzanie danych osobowych może zostać wycofana w dowolnym momencie. Odbiorcą danych jest serwis Just Join IT oraz inne podmioty, którym powierzyliśmy przetwarzanie danych w związku z rekrutacją.
emagine
868 aktywnych ofert