Machine Learning Operations Engineer (w/m/d)

Das Unternehmen ist ein verantwortungsvolles, KI-zentriertes globales Unternehmen im Bereich der digitalen Transformation. In dieser Rolle als Machine Learning Operations Engineer sind Sie verantwortlich für den Aufbau und Betrieb einer Model-Serving-Plattform, beispielsweise mit dem Triton Inference Server. Sie integrieren unterschiedlichste Modelltypen und Frameworks, unter anderem PyTorch und TensorFlow, und entwickeln Inference APIs sowohl für Batch- als auch für Streaming-Anwendungen. Zudem gestalten Sie robuste Input- und Output-Schemata für ML-Modelle und optimieren deren Performance hinsichtlich Latenz, Durchsatz und GPU-Auslastung. Die Containerisierung und das Deployment von Modellen, insbesondere unter Verwendung von Docker und AWS, gehören ebenfalls zu Ihren Aufgaben. Sie arbeiten in einem motivierten Team, das großen Wert auf Zusammenarbeit und kontinuierliche Weiterentwicklung legt. Das Unternehmen fördert eine offene Unternehmenskultur mit flachen Hierarchien und einem starken Teamspirit. Sie haben die Möglichkeit, an internationalen Projekten mit Experten aus über 20 Ländern zu arbeiten und Ihre Fähigkeiten in einem dynamischen Umfeld weiterzuentwickeln.

Der ideale Kandidat bringt sehr gute Kenntnisse in Python mit, insbesondere im Backend und in der ML Runtime. Sie sollten Erfahrung mit ML Inference und Serving, beispielsweise mit Triton oder TorchServe, haben. Ein fundiertes Verständnis von Model-Inputs und -Outputs sowie den Unterschieden zwischen Batching und Streaming ist ebenso erforderlich. Kenntnisse in FP32, FP16 und Quantisierung sind von Vorteil. Sie sollten sicher im Umgang mit Docker und produktiven Deployments sein und starke Debugging-Fähigkeiten in verteilten ML-Systemen mitbringen. Grundkenntnisse in CUDA und GPU-Computing sind wünschenswert. Sehr gute Deutsch- und Englischkenntnisse sind notwendig, um effektiv im internationalen Team zu kommunizieren. Persönliche Eigenschaften wie Teamfähigkeit, analytisches Denken und eine proaktive Arbeitsweise runden Ihr Profil ab.