Backend AI Engineer

They’re an early-stage AI company building a proactive assistant aimed at improving productivity for everyday tasks such as email, notes, and tasks. The company focuses on reliability with long-running workflows and persistent context, despite non-deterministic underlying AI models. The team operates remotely and is distributed globally.

• Strong backend engineering experience in production environments.
• Experience building high-throughput, low-latency backend services.
• Strong understanding of distributed systems and production-scale architecture.
• Experience designing reliable APIs and service boundaries.
• Familiarity with AI inference patterns, including LLMs, embeddings, and/or multimodal systems.
• Ability to work with non-deterministic model behavior and build reliable systems around it.
• Experience with Python and/or Node.js.
• Experience with SQL and NoSQL databases.
• Practical knowledge of Docker and Kubernetes.
• Bias toward shipping, learning from production behavior, and improving systems iteratively.
• Ability to work independently in a fast-moving, high-ownership environment.

Nice to have:

• Experience working directly with OpenAI, Anthropic, or open-source LLMs.
• Experience with PyTorch.
• Experience building AI agents, orchestration systems, or tool-using AI workflows.
• Experience with streaming APIs, batching, caching, or inference optimization.
• Experience supporting AI-powered products across mobile and desktop clients.
• Experience working on consumer-facing AI products.

• Build and operate backend systems powering AI features in production.
• Design inference pipelines, orchestration layers, and service boundaries around AI models.
• Develop stable, observable APIs used across mobile and desktop clients.
• Work on systems supporting multi-step reasoning, tool use, persistent context, and real-world task completion.
• Optimize latency, throughput, reliability, and cost across inference workflows.
• Implement and improve caching, batching, streaming, and other performance strategies.
• Own production concerns including monitoring, logging, alerting, and incident response.
• Debug distributed systems under load and resolve production issues quickly.
• Collaborate closely with frontend and ML teams to ensure smooth product integration.

Informujemy, że administratorem danych jest 8Bit Studio (dalej jako "administrator"). Masz prawo do żądania dostępu do swoich danych osobowych, ich sprostowania, usunięcia lub ograniczenia przetwarzania, prawo do wniesienia sprzeciwu wobec przetwarzania, a także prawo do przenoszenia danych oraz wniesienia skargi do organu nadzorczego. Dane osobowe przetwarzane będą w celu realizacji procesu rekrutacji. Podanie danych w zakresie wynikającym z ustawy z dnia 26 czerwca 1974 r. Kodeks pracy jest obowiązkowe. W pozostałym zakresie podanie danych jest dobrowolne. Odmowa podania danych obowiązkowych może skutkować brakiem możliwości przeprowadzenia procesu rekrutacji. Administrator przetwarza dane obowiązkowe na podstawie ciążącego na nim obowiązku prawnego, zaś w zakresie danych dodatkowych podstawą przetwarzania jest zgoda. Dane osobowe będą przetwarzane do czasu zakończenia postępowania rekrutacyjnego i przez okres możliwości dochodzenia ewentualnych roszczeń, a w przypadku wyrażenia zgody na udział w przyszłych postępowaniach rekrutacyjnych - do czasu wycofania tej zgody. Zgoda na przetwarzanie danych osobowych może zostać wycofana w dowolnym momencie. Odbiorcą danych jest serwis Just Join IT oraz inne podmioty, którym powierzyliśmy przetwarzanie danych w związku z rekrutacją.