Senior Platform Engineer - AI Platform / LLM Infrastructure

W ITLT pomagamy naszym zaprzyjaźnionym firmom przekształcać ambitne pomysły w cyfrową rzeczywistość. Z nastawieniem na wyzwania, ciekawość technologii i zwinność - współtworzymy wyjątkowe rozwiązania IT.

• Senior-level experience w Platform Engineering / Distributed Systems
• Hands-on doświadczenie z Kubernetes i Docker
• Doświadczenie w budowie platform abstractions / Internal Developer Platforms (IDP)
• Praktyczna znajomość AI/LLM ecosystem - model serving, routing lub inference workflows
• Znajomość API design, service design oraz systemów multi-tenant
• Doświadczenie z observability, monitoringiem i distributed tracing
• Mocne doświadczenie w production environments i operational ownership
• Znajomość security i compliance w środowiskach rozproszonych
• Doświadczenie z hybrid / multi-cloud environments

• Projektowanie, budowa i utrzymanie self-hosted AI platform runtime
• Rozwój LLM Gateway i warstwy routingu (np. LiteLLM lub podobne rozwiązania)
• Budowa i utrzymanie model serving / inference infrastructure
• Projektowanie API oraz abstrakcji usług zapewniających spójny dostęp do AI
• Rozwój vector storage i retrieval systems
• Implementacja caching oraz optymalizacji wydajności
• Praca z Docker i Kubernetes
• Rozwój Infrastructure-as-Code i GitOps z wykorzystaniem Terraform, Helm lub podobnych narzędzi
• Implementacja observability, monitoringu i distributed tracing
• Zapewnienie security - secrets management, access control, data protection
• Optymalizacja performance, scalability i cost efficiency workloadów AI
• Integracja środowisk AWS, Azure oraz on-premises
• Współpraca z zespołami SDK i application engineering w celu integracji platformy
• Production support, incident response i operational ownership
• Ustalanie standardów technicznych oraz mentoring innych engineerów

Agencja zatrudnienia - nr certyfikatu 14181