AI Infrastructure Engineer / MLOps (k/m)

SoftBlue (INTechHouse) to wyjątkowe miejsce, które tworzą osoby pełne pasji i chęci do działania. Posiadamy własne Centrum Badawczo-Rozwojowe i unikatowy zespół specjalistów z różnych dziedzin. Mamy silny zestaw wartości, który kształtuje nasze podejście do codziennych zadań oraz do wyboru projektów, które realizujemy. Specjalizujemy się w projektowaniu i rozwoju rozwiązań z zakresu elektroniki i software.

• Solidne doświadczenie na stanowisku DevOps, MLOps, SysAdmin lub podobnym, ze szczególnym uwzględnieniem środowisk on-premise / bare-metal.
• Biegła znajomość systemów z rodziny Linux oraz zarządzania sieciami.
• Praktyczne doświadczenie z ekosystemem GPU: instalacja i konfiguracja sterowników Nvidia, CUDA, cuDNN.
• Doświadczenie z konteneryzacją i orkiestracją (Docker, Docker Compose, mile widziany Kubernetes).
• Znajomość zagadnień z obszaru MLOps i narzędzi do zarządzania cyklem życia modeli (np. MLflow, DVC, Kubeflow).
• Znajomość architektury i narzędzi związanych z LLM (np. vLLM, Ollama, Hugging Face Text Generation Inference, LangChain).
• Zdolności analityczne i architektoniczne oraz umiejętność tworzenia dokumentacji.

Nice to have:

• Umiejętność pisania skryptów w Pythonie oraz zrozumienie procesu fine-tuningu modeli językowych (np. LoRA, QLoRA).
• Znajomość narzędzi do automatyzacji infrastruktury (Ansible, Terraform).
• Doświadczenie w pracy z bazami wektorowymi (np. Milvus, Qdrant, Pinecone).

• Projektowanie architektury rozwiązań on-premise dla systemów AI/LLM oraz tworzenie dokumentacji technicznej.
• Przygotowywanie środowiska od podstaw: instalacja i konfiguracja OS (Linux), sterowników GPU (Nvidia/CUDA), środowisk kontenerowych oraz narzędzi MLOps na dedykowanych serwerach fizycznych.
• Uruchamianie i optymalizacja lokalnych środowisk do inferencji (serwowania) modeli językowych oraz ich douczania (fine-tuning).
• Budowa pipeline'ów danych zasilających modele oraz ich integracja z bazami danych klientów.
• Wdrażanie modeli na produkcję, stabilizacja środowiska, testy wydajnościowe oraz walidacja jakości.
• Ścisła współpraca z zespołem Data Science przy procesach trenowania i dostrajania modeli na danych klienta.