Senior GenAI / LLMOps Engineer

Nasz Klient to duża organizacja rozwijająca rozwiązania z obszaru sztucznej inteligencji oraz budująca standardy bezpiecznego i skalowalnego wykorzystania Generative AI (GenAI) w środowisku enterprise. Projekt koncentruje się na budowie i rozwoju technicznych fundamentów umożliwiających bezpieczne, kontrolowane i efektywne kosztowo wykorzystywanie modeli Large Language Models (LLM) przez aplikacje, agentów AI oraz zespoły developerskie. Zakres obejmuje obszary GenAI, LLMOps, AI Governance, Cloud, DevOps i Data, w tym rozwój centralnej warstwy dostępowej do modeli, observability oraz mechanizmów bezpieczeństwa i kontroli kosztów.

Must have:

• Praktyczne doświadczenie projektowe z Generative AI / LLM i udział w budowie rozwiązań z modelami językowymi
• Bardzo dobra znajomość integracji z modelami LLM przez API oraz architektury rozwiązań GenAI w środowiskach enterprise
• Doświadczenie lub bardzo dobra znajomość obszaru LLMOps / GenAIOps, w tym udostępnianie, monitoring i zarządzanie modelami
• Znajomość mechanizmów API Gateway, uwierzytelniania, zarządzania dostępem, routingu, logowania i observability
• Dobra znajomość ekosystemu modeli LLM, w tym OpenAI, Anthropic, Google oraz modeli open-source
• Znajomość SQL oraz doświadczenie w realizacji technicznych analiz i Proof of Concept

Nice to have:

• Doświadczenie z rozwiązaniami LiteLLM, AI Gateway, model router lub proxy dla modeli LLM
• Doświadczenie z Azure OpenAI, Google Vertex AI, Anthropic lub hostowaniem modeli open-source / on-premise
• Znajomość Snowflake i doświadczenie z platformami danych lub hurtowniami danych
• Znajomość Kubernetes, konteneryzacji, CI/CD oraz środowisk chmurowych
• Doświadczenie z observability, FinOps lub optymalizacją kosztów usług AI/cloud
• Znajomość RAG (Retrieval-Augmented Generation), agentów AI i narzędzi developerskich wykorzystujących LLM

• Projektowanie i rozwój bezpiecznej warstwy dostępu do modeli LLM, takich jak LLM Gateway / API Gateway
• Rozwój integracji API z modelami LLM, w tym mechanizmy uwierzytelniania, autoryzacji, routingu i kontroli wykorzystania
• Budowanie mechanizmów observability dla środowiska GenAI, uwzględniających logowanie i monitoring modeli, aplikacji, tokenów, błędów i kosztów
• Testowanie i ocena modeli LLM, hostingu i technologii GenAI pod względem jakości, bezpieczeństwa, wydajności i kosztów
• Realizacja technicznych Proof of Concept oraz analiz nowych modeli i narzędzi GenAI
• Współpraca z zespołami DevOps, Cloud, Security, Data i Architecture w zakresie implementacji zasad AI Governance i bezpieczeństwa

By applying, you acknowledge that your personal data will be processed by TQLO sp. z o.o. with its registered office in Warsaw (hereinafter: the “Controller”) for the purpose of conducting the recruitment process.

The legal basis for processing your personal data is: – taking steps prior to entering into a contract and fulfilling legal obligations under applicable law (Art. 6(1)(b) and (c) GDPR), – your consent, in case of providing additional data beyond the scope required by law or consenting to participation in future recruitment processes (Art. 6(1)(a) GDPR).

Providing personal data within the scope resulting from the Polish Labour Code is necessary to participate in the recruitment process. Providing additional data is voluntary.

Your personal data may be shared with entities cooperating with the Controller in the recruitment process, including IT system providers and potential clients for whom recruitment processes are conducted.

Personal data will be processed for the duration of the recruitment process and for the period necessary to establish, exercise or defend legal claims. In the case of consent for future recruitment processes, data will be processed until the consent is withdrawn.

You have the right to access your personal data, rectify it, erase it, restrict processing, object to processing, request data portability, and lodge a complaint with a supervisory authority.

You may withdraw your consent at any time without affecting the lawfulness of processing carried out prior to its withdrawal.