AI Engineer

For one of our clients, we are looking for a Mid/Senior AI Engineer (m/f/n). The role involves working on a live Large Language Model (LLM) system with real users, focusing on developing LLM-based features from idea to production, maintaining their accuracy, speed, observability, and efficiency.

• Experience building and operating backend services including APIs, asynchronous programming, and testing.
• Hands-on experience taking LLM features to production and maintaining them, not just prototypes.
• Knowledge of agent/orchestration frameworks, ideally LangGraph.
• Practical experience with retrieval-augmented generation (RAG).
• Experience debugging LLM systems in production including tracing, evaluation, cost, and latency management.
• Experience running services in the cloud, specifically on Azure.
• Strong problem-solving skills, analytical thinking, and technical decision-making.
• Fluent in English with proactive communication and collaboration skills.
• Open-minded, creative, and motivated to push boundaries in AI and automation.

Nice to have:

• Experience with Azure OpenAI, AI Search, and App Service.
• Infrastructure-as-code experience with Bicep.
• Mentoring or technical lead experience.

• Build LLM-powered features end to end, designing and implementing agentic flows, retrieval, and tool calling using LangGraph, shipping them as FastAPI services with streaming, persistence, and tests.
• Own answer quality by building evaluation datasets, regression suites, and LLM-as-judge checks.
• Transform user questions into effective queries for the search platform, orchestrate multi-step research loops, and refine the model context.
• Debug production issues by instrumenting flows with tracing (Langfuse), investigating bad answers, and managing latency, token, and cost budgets including routing across model sizes behind an AI gateway.

Informujemy, że administratorem danych jest Shimi Sp. z o.o. z siedzibą w Warszawie, (dalej jako "administrator"). Masz prawo do żądania dostępu do swoich danych osobowych, ich sprostowania, usunięcia lub ograniczenia przetwarzania, prawo do wniesienia sprzeciwu wobec przetwarzania, a także prawo do przenoszenia danych oraz wniesienia skargi do organu nadzorczego. Dane osobowe przetwarzane będą w celu realizacji procesu rekrutacji. Podanie danych w zakresie wynikającym z ustawy z dnia 26 czerwca 1974 r. Kodeks pracy jest obowiązkowe. W pozostałym zakresie podanie danych jest dobrowolne. Odmowa podania danych obowiązkowych może skutkować brakiem możliwości przeprowadzenia procesu rekrutacji. Administrator przetwarza dane obowiązkowe na podstawie ciążącego na nim obowiązku prawnego, zaś w zakresie danych dodatkowych podstawą przetwarzania jest zgoda. Dane osobowe będą przetwarzane do czasu zakończenia postępowania rekrutacyjnego i przez okres możliwości dochodzenia ewentualnych roszczeń, a w przypadku wyrażenia zgody na udział w przyszłych postępowaniach rekrutacyjnych - do czasu wycofania tej zgody. Zgoda na przetwarzanie danych osobowych może zostać wycofana w dowolnym momencie. Odbiorcą danych jest serwis Just Join IT oraz inne podmioty, którym powierzyliśmy przetwarzanie danych w związku z rekrutacją.