0521 968 7740Mo–Fr, 8–17 Uhr
Zurück zu Docker
KI-Apps containerisieren mit Podman, Docker & Kubernetes
Vom Container zur skalierbaren Inferenz: Images, Deployments, GPU, Security und Betrieb im Cluster
Kursdetails ansehenab 2.100,00 € zzgl. 19 % MwSt.
Weitere Termine & BuchungsoptionenMehr als 5.000 Unternehmen vertrauen uns
Kursdetails
Das lernst Du
- Container-Setup für KI-Workloads
- Performance und GPU in Containern
- Kubernetes-Grundlagen für KI-Services
- Deployment-Muster für Modelle und APIs
- Security, Compliance und Supply Chain
- Observability und Betrieb
Überblick
Dieses Seminar richtet sich an alle, die KI-Services nicht nur entwickeln, sondern verlässlich ausliefern wollen. Du lernst Containerisierung als Produktivitäts- und Qualitätshebel kennen: gleiche Laufzeitumgebung von Entwicklung bis Produktion, kontrollierte Abhängigkeiten und wiederholbare Deployments. Wir beginnen mit Docker: Du baust Images für eine Inferenz-API, strukturierst den Build so, dass er schnell bleibt, und entscheidest bewusst, welche Artefakte ins Image gehören und welche über Volumes, Mounts oder Object Storage bereitgestellt werden. Dabei spielen Healthchecks, Logging und eine klare Konfigurationsstrategie eine zentrale Rolle. Anschließend verschieben wir den Blick auf GPU-Workloads. Du arbeitest die typischen Fehlerquellen durch, die bei CUDA, Treibern und Base-Images auftreten, und lernst, wie du GPU-Ressourcen korrekt anforderst und begrenzt. Danach setzt du Kubernetes als Betriebsplattform ein: Deployments, Services und Ingress werden so konfiguriert, dass Rollouts kontrolliert ablaufen und Instanzen nur dann Traffic bekommen, wenn sie wirklich bereit sind. Du nutzt ConfigMaps und Secrets, um Konfiguration und Zugangsdaten ohne Image-Neubau zu ändern. Ein eigenes Modul widmet sich Release-Strategien für Modelle: Versionierung über Tags, Immutable Images, Registry-Strategien sowie Canary- und Blue-Green-Releases, damit du Modellupdates mit messbarem Risiko ausrollen kannst. Zum Abschluss etablierst du Observability: Metriken wie Latenz und Throughput, sinnvolle Log-Strukturen und Rollback-Mechanismen. So kannst du KI-Anwendungen als Container-Workloads stabil betreiben, statt sie nur zu demonstrieren.
Kursinhalte
- Container-Setup für KI-Workloads
- Docker-Images für Inferenz und Training: Base-Images, Layering, Caching
- Python-Abhängigkeiten reproduzierbar: Wheels, Lockfiles, Build-Strategien
- Modellartefakte und Daten: Mounts, Volumes, Object Storage Patterns
- Healthchecks, Logging und Konfiguration per Environment
- Performance und GPU in Containern
- NVIDIA Container Runtime: Voraussetzungen und typische Stolperstellen
- CUDA-kompatible Images und Treiber-Matrix verstehen
- Batching, Concurrency und Warmup für Inferenz
- Ressourcenlimits: CPU, RAM, GPU und IO sinnvoll setzen
- Kubernetes-Grundlagen für KI-Services
- Pods, Deployments, Services, Ingress: was du wirklich brauchst
- ConfigMaps und Secrets: Konfiguration ohne Image-Neubau
- Readiness/Liveness: saubere Rollouts ohne Ausfälle
- Autoscaling-Grundlagen: HPA, Requests und Limits
- Deployment-Muster für Modelle und APIs
- REST/gRPC Inferenz-API containerisieren (z. B. FastAPI)
- Modellversionierung: Tags, Immutable Images, Registry-Strategie
- Blue-Green und Canary Releases für Modellwechsel
- Job-Workloads: Batch-Inferenz und Scheduled Jobs
- Security, Compliance und Supply Chain
- Least Privilege: Rootless, Capabilities, Pod Security
- Image-Scanning und SBOM: Risiken sichtbar machen
- Secrets Handling: keine Keys im Image, Rotation verstehen
- Netzwerk-Policies und sichere Ingress-Konfiguration
- Observability und Betrieb
- Metriken für KI: Latenz, Throughput, Fehler, Queueing
- Logs und Traces: Debugging von Inferenzproblemen
- Rollbacks und Incident-Playbooks für Deployments
- Kosten- und Kapazitätsdenken: Node Pools, GPU-Auslastung
Zielgruppe & Voraussetzungen
Für wen der Kurs geeignet ist
- ML Engineers und Data Scientists mit Betriebsverantwortung
- DevOps Engineers und Platform Engineers, die KI-Workloads integrieren
- Softwareentwicklerinnen und Softwareentwickler, die Inferenz-APIs bereitstellen
- IT-Architektinnen und IT-Architekten, die Deployment-Standards definieren
- Alle, die KI-Anwendungen zuverlässig als Container im Cluster ausrollen und betreiben wollen
Deine Vorteile
Garantierte TermineMarkierte Termine finden statt und bieten 10 % Preisvorteil.
Kleine GruppenMaximal 8 Teilnehmende für intensiven Austausch und nachhaltigen Lernerfolg.
Praxiserfahrene Trainer:innenBerufsrelevante Fachexpertise aus langjähriger Praxiserfahrung.
Keine HybridschulungenBewusst live online oder in Präsenz – für eine klare, fokussierte Lernumgebung.
FAQ
Was lerne ich in der Schulung „KI-Apps containerisieren mit Podman, Docker & Kubernetes“?
Vom Container zur skalierbaren Inferenz: Images, Deployments, GPU, Security und Betrieb im Cluster. Zu den Schwerpunkten gehören Container-Setup für KI-Workloads, Performance und GPU in Containern, Kubernetes-Grundlagen für KI-Services, Deployment-Muster für Modelle und APIs, Security, Compliance und Supply Chain und Observability und Betrieb.
Für wen ist die Schulung geeignet?
Die Schulung richtet sich an ML Engineers und Data Scientists mit Betriebsverantwortung, DevOps Engineers und Platform Engineers, die KI-Workloads integrieren, Softwareentwicklerinnen und Softwareentwickler, die Inferenz-APIs bereitstellen, IT-Architektinnen und IT-Architekten, die Deployment-Standards definieren und Alle, die KI-Anwendungen zuverlässig als Container im Cluster ausrollen und betreiben wollen.
Welche Vorkenntnisse brauche ich für die Schulung?
Grundkenntnisse in Linux/CLI und Container-Grundlagen sind hilfreich. Erste Berührung mit Kubernetes oder Cloud-Networking ist von Vorteil, aber nicht zwingend.
Welche Themen und Schwerpunkte werden behandelt?
Zu den Schwerpunkten gehören Container-Setup für KI-Workloads, Performance und GPU in Containern, Kubernetes-Grundlagen für KI-Services, Deployment-Muster für Modelle und APIs, Security, Compliance und Supply Chain und Observability und Betrieb.
Wie praxisnah ist die Schulung?
Die Inhalte werden bis zu konkreten Arbeitsschritten zu Deployment-Muster für Modelle und APIs, Security, Compliance und Supply Chain und Observability und Betrieb geführt. Dadurch lässt sich das Gelernte gezielt auf eigene Aufgaben übertragen.
Was kann ich nach dem Seminar in der Praxis umsetzen?
Zu den angestrebten Ergebnissen gehören: Dieses Seminar richtet sich an alle, die KI-Services nicht nur entwickeln, sondern verlässlich ausliefern wollen; Du lernst Containerisierung als Produktivitäts- und Qualitätshebel kennen: gleiche Laufzeitumgebung von Entwicklung bis Produktion,; Wir beginnen mit Docker: Du baust Images für eine Inferenz-API, strukturierst den Build so, dass er schnell bleibt, und entscheidest bewusst,; Dabei spielen Healthchecks, Logging und eine klare Konfigurationsstrategie eine zentrale Rolle; Anschließend verschieben wir den Blick auf GPU-Workloads.
Wird im Seminar auch „Deployment-Muster für Modelle und APIs“ behandelt?
Ja. „Deployment-Muster für Modelle und APIs“ ist ein eigener Bestandteil der Schulung. Dazu gehören REST/gRPC Inferenz-API containerisieren (z. B. FastAPI), Modellversionierung: Tags, Immutable Images, Registry-Strategie, Blue-Green und Canary Releases für Modellwechsel und Job-Workloads: Batch-Inferenz und Scheduled Jobs.
Kurs buchen oder anfragen
Feste Termine · Online & Präsenz
Feste Termine · Online/Präsenz
Offene Kurse finden zu festen Terminen statt. Du buchst einzelne Plätze für Dich oder mehrere Teilnehmende aus Deinem Unternehmen.
Bitte wähle einen Ort oder Live-Online aus.
Bitte wähle einen Termin aus.
Bitte wähle aus, wo die Schulung stattfinden soll.
Bitte wähle einen Terminwunsch aus.
Bitte wähle die Teilnehmeranzahl aus.
Bitte wähle die Teilnehmerzahl aus.
- Rechnung erst nach Kursende
- Zertifikat und Unterlagen inklusive
- Umbuchung möglich
