Senior AI Infrastructure Engineer – LLM & Retrieval Systems

ITDS is seeking an AI Platform Engineer to develop scalable AI infrastructure solutions focused on production AI services like Retrieval-Augmented Generation (RAG) systems and agentic workflows, supporting research and engineering teams.

• 4+ years of experience in software or platform engineering, with exposure to AI/ML or LLM-based applications
• Strong Kubernetes expertise, particularly in GPU contexts and containerized environments
• Proficiency with cloud infrastructure, especially AWS, networking fundamentals, and IAM
• Hands-on experience operating production RAG systems and retrieval infrastructure
• Solid Python skills for building production-grade APIs and services
• Deep understanding of Large Language Models (LLM) fundamentals, including prompting, token management, and output reliability
• Excellent communication skills and ability to collaborate across technical and non-technical teams

Nice to have:

• Experience with agentic AI systems and workflow orchestration
• Familiarity with LLM evaluation frameworks and quality measurement tools
• Exposure to model serving platforms and inference optimization techniques
• Knowledge of embedding models, retrieval performance trade-offs, and data engineering pipelines
• Relevant AWS or Kubernetes certifications

Preferred Education & Experience:

• Bachelor’s or Master’s degree in Computer Science, Engineering, or related fields
• Proven track record in developing and operating large-scale AI infrastructure in production environments
• Additional cloud certifications and proactive approach to operational excellence

• Develop and maintain internal AI services and APIs, including RAG pipelines, document ingestion, embeddings, retrieval, and relevance optimization
• Manage vector database performance, scalability, and data freshness to ensure optimal retrieval quality
• Design and document user-friendly APIs supporting agentic workflows
• Integrate model serving endpoints into application services, monitoring latency, reliability, and retrieval accuracy
• Build resilient systems with fallback mechanisms, version control, and testing frameworks
• Implement comprehensive monitoring, logging, and tracing across AI services
• Oversee service lifecycle management, from deployment to deprecation
• Participate in operational incident response

Informujemy, że administratorem danych jest ITDS z siedzibą w Warszawie, ul. Złota 59 (dalej jako "administrator"). Masz prawo do żądania dostępu do swoich danych osobowych, ich sprostowania, usunięcia lub ograniczenia przetwarzania, prawo do wniesienia sprzeciwu wobec przetwarzania, a także prawo do przenoszenia danych oraz wniesienia skargi do organu nadzorczego. Dane osobowe przetwarzane będą w celu realizacji procesu rekrutacji. Podanie danych w zakresie wynikającym z ustawy z dnia 26 czerwca 1974 r. Kodeks pracy jest obowiązkowe. W pozostałym zakresie podanie danych jest dobrowolne. Odmowa podania danych obowiązkowych może skutkować brakiem możliwości przeprowadzenia procesu rekrutacji. Administrator przetwarza dane obowiązkowe na podstawie ciążącego na nim obowiązku prawnego, zaś w zakresie danych dodatkowych podstawą przetwarzania jest zgoda. Dane osobowe będą przetwarzane do czasu zakończenia postępowania rekrutacyjnego i przez okres możliwości dochodzenia ewentualnych roszczeń, a w przypadku wyrażenia zgody na udział w przyszłych postępowaniach rekrutacyjnych - do czasu wycofania tej zgody. Zgoda na przetwarzanie danych osobowych może zostać wycofana w dowolnym momencie. Odbiorcą danych jest serwis Just Join IT oraz inne podmioty, którym powierzyliśmy przetwarzanie danych w związku z rekrutacją.

Naruszenia można zgłaszać zgodnie z Procedurą zgłaszania nieprawidłowości ITDS dostępną pod linkiem: https://itds.pl/wp-content/uploads/2025/03/INFORMATION-ON-PROCEDURE-FOR-REPORTING-BREACHES-AND-PROTECTION-OF-WHISTLEBLOWERS-AT-ITDS-POLSKA.pdf