KI-Infrastrukturplanung: On-Premise vs. Cloud

Triff belastbare Architekturentscheidungen für GPU, Daten, Sicherheit und Kosten, bevor Dein KI-Projekt teuer wird. Zu den Schwerpunkten gehören Entscheidungsrahmen für KI-Infrastruktur, GPU, Compute und Performance richtig planen, Datenplattform, Storage und Datenbewegung, Sicherheit, Compliance und Governance, MLOps und Betriebsfähigkeit und Kosten, Verträge und FinOps für KI.

Die Schulung richtet sich an IT-Architektinnen und IT-Architekten, die KI-Plattformen verantworten, Leiterinnen und Leiter IT-Betrieb, Infrastruktur und Rechenzentrum, ML Engineers und MLOps-Verantwortliche mit Architekturaufgaben und IT-Security- und Governance-Rollen mit KI-Bezug sowie alle, die eine belastbare Entscheidung zwischen On-Premise, Cloud oder Hybrid treffen wollen.

Grundverständnis von IT-Infrastruktur (Netzwerk, Storage, Virtualisierung oder Container). Erste Berührung mit Machine Learning oder KI-Workloads ist hilfreich, aber nicht zwingend.

Zu den Schwerpunkten gehören Entscheidungsrahmen für KI-Infrastruktur, GPU, Compute und Performance richtig planen, Datenplattform, Storage und Datenbewegung, Sicherheit, Compliance und Governance, MLOps und Betriebsfähigkeit und Kosten, Verträge und FinOps für KI.

Die Inhalte werden bis zu konkreten Arbeitsschritten zu Sicherheit, Compliance und Governance, MLOps und Betriebsfähigkeit und Kosten, Verträge und FinOps für KI geführt. Dadurch lässt sich das Gelernte gezielt auf eigene Aufgaben übertragen.

Zu den angestrebten Ergebnissen gehören: Wenn Du KI-Workloads planst, ist die zentrale Frage nicht nur „Cloud oder On-Premise“, sondern: Welche Kombination liefert Dir die benötigte Rechenleistung,; In diesem Seminar baust Du Schritt für Schritt eine Infrastrukturstrategie auf, die Du intern vertreten kannst; Du definierst zuerst die relevanten Workload-Typen und Qualitätskriterien: Trainingsläufe mit hohem Durchsatz, Fine-Tuning mit wiederkehrenden Peaks,; Daraus leitest Du ab, ob ein eigener GPU-Stack, ein Cloud-Setup oder ein Hybrid-Modell sinnvoll ist; Du lernst, wie Du Compute und GPU-Ressourcen dimensionierst und welche Abhängigkeiten oft übersehen werden: GPU-Speicher, CPU-Ratio, Netzwerkbandbreite,.

Ja. „Sicherheit, Compliance und Governance“ ist ein eigener Bestandteil der Schulung. Dazu gehören IAM, Secrets, Schlüsselmanagement, Mandantentrennung und Zero-Trust-Prinzipien, DSGVO, Auditierbarkeit, Logging und Modellrisiken: Prompt Injection, Datenabfluss.