Machine Learning Operations Engineer (w/m/d)

Das Unternehmen ist ein verantwortungsvolles, KI-zentriertes globales Unternehmen im Bereich der digitalen Transformation. In der Rolle des Machine Learning Operations Engineer sind Sie Teil eines dynamischen Teams, das fortschrittliche Lösungen für die Daten- und KI-Transformation konzipiert. Zu Ihren Hauptaufgaben gehört der Aufbau und Betrieb einer Model-Serving-Plattform, beispielsweise mit dem Triton Inference Server. Sie integrieren unterschiedlichste Modelltypen und Frameworks wie PyTorch und TensorFlow und entwickeln Inference APIs für Batch- und Streaming-Anwendungen. Zudem sind Sie für das Design robuster Input- und Output-Schemata für ML-Modelle verantwortlich und optimieren deren Performance hinsichtlich Latenz, Durchsatz und GPU-Auslastung. Die Containerisierung und das Deployment von Modellen unter Verwendung von Docker und AWS gehören ebenfalls zu Ihren Aufgaben. Das Arbeitsumfeld ist geprägt von einem offenen Mindset, Teamspirit und flachen Hierarchien. Das Unternehmen bietet Ihnen die Möglichkeit, sich kontinuierlich weiterzuentwickeln und an innovativen Projekten zu arbeiten, die den Puls der Zeit widerspiegeln.

Der ideale Kandidat bringt sehr gute Kenntnisse in Python mit, insbesondere im Backend und in der ML Runtime. Erfahrung mit ML Inference und Serving, beispielsweise mit Triton oder TorchServe, ist ebenfalls erforderlich. Ein fundiertes Verständnis von Model-Inputs und -Outputs, Batching versus Streaming sowie von FP32, FP16 und Quantisierung wird vorausgesetzt. Sie sollten sicher im Umgang mit Docker und produktiven Deployments sein und starke Debugging-Fähigkeiten in verteilten ML-Systemen mitbringen. Grundkenntnisse in CUDA und GPU-Computing sind von Vorteil. Darüber hinaus sind sehr gute Deutsch- und Englischkenntnisse erforderlich, um in einem internationalen Umfeld erfolgreich zu kommunizieren. Persönliche Eigenschaften wie Teamfähigkeit, analytisches Denken und eine proaktive Arbeitsweise runden Ihr Profil ab.