0521 968 7740Mo–Fr, 8–17 Uhr
Viele Teams besitzen trainierte Modelle, aber der letzte Schritt in den Kubernetes-Betrieb bleibt fehleranfällig. Diese KServe Schulung setzt genau an dieser Übergabestelle an. Im Seminar entsteht ein Inferenz-Setup, das von der Installation über die erste InferenceService-Definition bis zum kontrollierten Release führt. Dabei arbeitest du mit den KServe-Ressourcen, prüfst Controller-Verhalten und analysierst, wie Predictor-Pods aus Modellartefakten entstehen. Der Trainingsanteil zu Model Serving Kubernetes zeigt, welche Rolle Knative Serving, Gateway-Anbindung und Runtime-Auswahl im Datenpfad spielen. Danach geht es um produktionsrelevante Entscheidungen: Wie viel CPU oder Memory braucht ein Modell, wie wird Scale-to-zero eingesetzt, welche Metriken zeigen Überlast und wie wird eine neue Modellversion per Canary-Traffic abgesichert. GPU-Nutzung wird mit Kubernetes-Ressourcen, Node-Auswahl und Scheduling-Anforderungen eingeordnet. Für unterschiedliche Modellformate lernst du, welche Standard-Runtimes sinnvoll sind und wann ein eigener Runtime-Container gebraucht wird. Ein eigener Abschnitt widmet sich Monitoring und Troubleshooting. Dort untersuchst du Logs, Events, Controller-Status und Metriken, bis Fehlerursachen nachvollziehbar werden. Die Schulung liefert damit einen durchgängigen Betriebsablauf für Teams, die KI-Modelle auf Kubernetes bereitstellen und wiederholbar betreiben.
