LLM Engineer

Struct4 to dynamiczna firma technologiczna specjalizująca się w rozwiązaniach IT związanych z danymi oraz systemami event-driven. Firma wspiera klientów globalnie w tworzeniu innowacyjnych produktów technologicznych.

• Zaawansowana znajomość programowania w Python
• Doświadczenie z modelami LLM i technologią vLLM
• Znajomość rozwiązań RAG (Retrieval-Augmented Generation)
• Praktyczne umiejętności korzystania z OpenAI API
• Umiejętność optymalizacji i zarządzania pamięcią GPU
• Doświadczenie z bazami danych wektorowych
• Wiedza i doświadczenie z praktykami MLOps oraz narzędziami Docker i Kubernetes

• Wdrażanie i konfiguracja modeli LLM, takich jak Llama, Mistral czy Qwen z wykorzystaniem vLLM
• Optymalizacja wydajności inferencji — batching, kwantyzacja, zarządzanie pamięcią GPU i KV cache
• Przygotowanie i utrzymanie endpointów zgodnych z OpenAI API
• Testowanie i ewaluacja jakości oraz wydajności modeli pod kątem latencji, przepustowości i kosztów
• Udział w projektowaniu rozwiązań RAG — przetwarzanie dokumentów, embeddingi, bazy wektorowe, retrieval, ocena jakości odpowiedzi
• Współpraca z zespołami MLOps i DevOps przy wdrożeniach produkcyjnych

Administratorem Twoich danych jest Struct4 P.S.A., ul. Żurawia 43/122, 00-680 Warszawa (dalej: „Administrator”). Dane przetwarzane są zgodnie z obowiązującymi przepisami dotyczącymi rekrutacji i ochrony danych osobowych, w tym RODO. Podanie danych jest obligatoryjne w zakresie wymaganym przez Kodeks pracy, pozostałe dane są podawane dobrowolnie. Masz prawo do dostępu, sprostowania, usunięcia oraz innych praw opisanych w polityce prywatności. Zgoda na przetwarzanie danych może być wycofana w każdej chwili.