ML Engineering Lead (LLM Ops)

Rollen ansvarar för drift, övervakning och vidareutveckling av företagets LLM-, GenAI- och RAG-system inom ML Engineering-området. Personen bygger produktionsplattformar för kliniska ML- och GenAI-workflows som används på Neko Healths sensordata och medicinska enheter.

Det här kommer du att göra

• Sätta upp MLflow-baserad spårning och observability för LLM-pipelines
• Bygga en utvärderingssvit med LLM-domare och human-feedback loop
• Rulla en RAG eller agent-pipeline till produktion med versionshantering
• Ta fram kostnad, latens och GPU-ramverk för servingstrategier
• Integrera LLM Ops nära befintligt MLOps-team för plattformsreliabilitet

Det här söker de

• Starka MLOps-kunskaper över hela livscykeln
• Flyt i Python och erfarenhet av produktions-ML-system
• Praktisk erfarenhet av LLM/GenAI: prompts, RAG eller agents
• Arbetskunskap i PyTorch och distribuerade system
• Förståelse för LLM-specifika MLOps-tradeoffs och human-feedback

Kompetenser

• Python
• LLM
• GenAI
• RAG
• LangChain
• PyTorch
• MLflow
• Kubernetes

Sammanfattning skriven av StartupJob utifrån företagets annons. Hela annonsen finns på företagets webbplats.