Job Opportunities API

Aufbau, Betrieb und Skalierung von LLM‑Plattformen und On‑Prem GPU‑Clustern für LLM‑Workloads (NVIDIA) Monitoring von Token‑Durchsatz, Latenzen, GPU‑Auslastung und Kosten Aufbau von Hybrid‑Architekturen (Cloud + On‑Prem) Umsetzung von Compliance‑, Datenschutz‑ und AI‑Governance‑Vorgaben Enge Zusammenarbeit mit Data Scientists, KI‑Entwicklern und Fachbereichen Beratung bei Modellwahl, Architekturentscheidungen und Einsatzszenarien sowie Bewertung neuer LLM‑Technologien und Frameworks Abgeschlossenes Studium der Informatik, Data Science oder vergleichbare Qualifikation Erfahrung mit mindestens einer Cloud‑Plattform (Azure, AWS oder GCP), idealerweise mit Managed AI Services oder GPU‑Instanzen Sehr gute Kenntnisse in Infrastructure as Code (Terraform, Bicep, o. Ä.), Containerisierungs-Technologien und Linux-Administration Erfahrung mit LLM‑Inference‑Stacks (z. B.: vLLM, TGI, Triton Inference Server, Ray) und/oder Kenntnisse in LLMOps / MLOps (z. B.: MLflow, Kubeflow, Hugging Face, Weights & Biases) sind wünschenswert Von Vorteil ist ein gutes Verständnis von RAG‑Architekturen, Vektordatenbanken und Prompting‑Strategien Sehr gute Deutsch- (mind. C1 Niveau) und gute Englischkenntnisse (mind. C1 Niveau) EGYM-Wellpass, Corporate Benefits, sowie Rabatte (z.B. Käfer), Mensa, Sport- und Kulturangebote, Jobrad Arbeiten im Herzen Münchens am Max-Weber-Platz mit sehr guter Erreichbarkeit durch öffentliche Verkehrsmittel wie U-Bahn, S-Bahn oder Tram Betriebliche Altersvorsorge über die Versorgungsanstalt des Bundes und der Länder (VBL) Selbstverwirklichung durch eine abwechslungsreiche und fachlich anspruchsvolle Tätigkeit mit interdisziplinärer Zusammenarbeit verschiedener Abteilungen des TUM Klinikum Rechts der Isar Schwerbehinderte Bewerber*innen werden bei ansonsten im Wesentlichen gleicher Eignung bevorzugt berücksichtigt. Bewerbungskosten können leider nicht erstattet werden.