Zum Hauptinhalt springen
medienreich IT-Trainings
0521 968 7740
Zurück zu MLOps

MLflow 3 Schulung: GenAI Observability für LLMs

LLM-Traces, Prompt-Versionen und Evaluation als belastbaren MLflow-Workflow aufbauen

Kursdetails ansehen

3 Tage

23 Standorte

Online & Präsenz

Nächster Termin: 11. – 13.01.2027 · 95 weitere verfügbar

ab 1.940,00 € zzgl. 19 % MwSt.

Weitere Termine & Buchungsoptionen

Mehr als 5.000 Unternehmen vertrauen uns

TUINintendoOTTOPostbankSiemens

Kursdetails

Das lernst Du

  • Du strukturierst einen praxistauglichen Workflow für MLflow 3.
  • Du bearbeitest Aufgaben zu MLflow Tracking-Server und Repository-Struktur zielgerichtet und methodisch.
  • Du kombinierst die im Kurs behandelten Werkzeuge und Methoden zu zusammenhängenden Arbeitsschritten.
  • Du prüfst Arbeitsergebnisse zu Run-Metadaten und Metriken und erkennst typische Fehlerquellen frühzeitig.
  • Du bereitest Arbeitsergebnisse nachvollziehbar und adressatengerecht für die weitere Nutzung auf.
  • Du überträgst die erarbeiteten Methoden auf eigene Projekte und wiederkehrende Aufgaben.

Überblick

Der GenAI Observability Kurs richtet sich an Teams, die LLM-Anwendungen aus Experimenten in verlässliche Abläufe überführen. Der erste Trainingsabschnitt legt die Basis mit MLflow Tracking: Runs erhalten nachvollziehbare Parameter, Metriken, Artefakte und Dataset-Bezüge. Danach werden Experimente verglichen, fehlgeschlagene Läufe analysiert und Ergebnisse so dokumentiert, dass Reviews im Team schneller gelingen. Im MLflow 3 Training kommt GenAI-Tracing hinzu. Du instrumentierst LLM-Aufrufe, Prompt-Schritte und Retrieval-Abläufe, um eine Antwort über einzelne Spans nachzuverfolgen. Dadurch erkennt das Team, welcher Prompt-Teil, welcher Kontext oder welcher Tool-Aufruf einen Qualitätsabfall ausgelöst hat. Prompt Management MLflow behandelt die Versionierung von Prompts, die Ablage zusammengehöriger Prompt-Sets und den Vergleich von Varianten über Evaluationsergebnisse. Für klassische ML-Modelle setzt die Schulung auf Model Registry, MLflow Models und reproduzierbare Deployment-Pfade. MLOps mit MLflow wird als durchgehender Arbeitsablauf trainiert: Experiment anlegen, Modell oder Prompt bewerten, Registry-Eintrag vorbereiten, Deployment-Entscheidung dokumentieren und Monitoring-Signale aufnehmen. Die Labs nutzen vorbereitete ML- und LLM-Beispiele, damit du nach jedem Abschnitt ein lauffähiges Muster für den eigenen Arbeitskontext mitnimmst. Die Schulung eignet sich besonders, wenn bereits Prototypen existieren und der nächste Schritt in Richtung Betrieb, Qualitätssicherung und nachvollziehbarer Evaluation ansteht. Ein abschließender Review verbindet Trace-Daten mit Metriken und zeigt, wie Befunde in Aufgaben für Entwicklung oder Plattform-Betrieb überführt werden.

Kursinhalte

Plattform-Setup für MLflow 3

  • MLflow Tracking-Server und Repository-Struktur
  • Backend-Store und Artefaktablage
  • Experimentstruktur für Teamarbeit
  • Autologging und manuelles Logging
  • Run-Konventionen für Reviews

Experiment-Tracking und Reproduzierbarkeit

  • Run-Metadaten und Metriken
  • Dataset-Logging für Reproduzierbarkeit
  • Model Signatures und Input Examples
  • Artefakte für Audit und Vergleich
  • Vergleich von Experimentläufen

Model Registry und Release-Übergabe

  • Modellversionen mit Aliassen
  • Freigaben über Tags und Aliasse
  • Registry-Struktur für Teamprozesse
  • MLflow Models für Serving
  • Containerisierte Deployment-Pipelines

GenAI Observability mit Tracing

  • Trace-Spans für LLM-Aufrufe
  • RAG-Abläufe in Trace-Ansichten
  • Tool-Aufrufe und Fehleranalyse
  • Kosten- und Latenzmetriken
  • Trace-Daten für Betriebsreviews

Prompt Management mit MLflow

  • Prompt-Versionen in der Prompt Registry
  • Prompt-Vergleich über Experimente
  • Variantenfreigabe für Testumgebungen
  • Artefaktablage für Prompt-Sets
  • Review-Prozess für Prompt-Änderungen

Evaluation und Betriebssignale

  • mlflow.evaluate für klassische Modelle
  • GenAI-Scorer für Antwortqualität
  • Baseline-Vergleich mit Referenzdaten
  • Metriken für Release-Entscheidungen
  • Betriebssignale aus Traces und Runs

Zielgruppe & Voraussetzungen

Für wen der Kurs geeignet ist

  • Data-Scientistinnen und Data-Scientists mit Python-Erfahrung
  • ML-Engineers mit Verantwortung für reproduzierbare Experimente
  • MLOps-Engineers und Plattform-Teams im KI-Betrieb
  • LLM-Entwicklerinnen und LLM-Entwickler mit Trace-Bedarf

Deine Vorteile

  • Garantierte TermineMarkierte Termine finden statt und bieten 10 % Preisvorteil.

  • Kleine GruppenMaximal 8 Teilnehmende für intensiven Austausch und nachhaltigen Lernerfolg.

  • Praxiserfahrene Trainer:innenBerufsrelevante Fachexpertise aus langjähriger Praxiserfahrung.

  • Keine HybridschulungenBewusst live online oder in Präsenz – für eine klare, fokussierte Lernumgebung.

FAQ

Was lerne ich in der Schulung „MLflow 3 Schulung: GenAI Observability für LLMs“?

Du lernst, zentrale Methoden im Themenfeld MLflow 3 Schulung: GenAI Observability für LLMs praxisnah anzuwenden, Arbeitsschritte klar zu strukturieren und Ergebnisse für berufliche Aufgaben nachvollziehbar aufzubereiten. Zu den Schwerpunkten gehören Plattform-Setup für MLflow 3, Experiment-Tracking und Reproduzierbarkeit, Model Registry und Release-Übergabe, GenAI Observability mit Tracing, Prompt Management mit MLflow und Evaluation und Betriebssignale.

Für wen ist die Schulung geeignet?

Die Schulung richtet sich an Data-Scientistinnen und Data-Scientists mit Python-Erfahrung, ML-Engineers mit Verantwortung für reproduzierbare Experimente, MLOps-Engineers und Plattform-Teams im KI-Betrieb und LLM-Entwicklerinnen und LLM-Entwickler mit Trace-Bedarf.

Welche Vorkenntnisse brauche ich für die Schulung?

Sichere Python-Grundlagen, etwa auf Niveau des Python 3 Grundkurs intensiv Erfahrung mit ML- oder LLM-Projekten Grundverständnis von Git-Workflows und APIs Basiswissen zu containerisierten Anwendungen hilfreich

Welche Themen und Schwerpunkte werden behandelt?

Zu den Schwerpunkten gehören Plattform-Setup für MLflow 3, Experiment-Tracking und Reproduzierbarkeit, Model Registry und Release-Übergabe, GenAI Observability mit Tracing, Prompt Management mit MLflow und Evaluation und Betriebssignale.

Wie praxisnah ist die Schulung?

Die Schulung greift praxisnah insbesondere die Bereiche GenAI Observability mit Tracing, Prompt Management mit MLflow und Evaluation und Betriebssignale auf. Dadurch lässt sich das Gelernte gezielt auf eigene Aufgaben und Projekte übertragen.

Was kann ich nach dem Seminar in der Praxis umsetzen?

Zu den angestrebten Ergebnissen gehören: Du setzt die zentralen Methoden des Kurses in einem strukturierten Praxisworkflow ein; Du planst Arbeitsschritte nachvollziehbar und wählst geeignete Verfahren für die jeweilige Aufgabe aus; Du erkennst typische Qualitäts- und Fehlerquellen und kannst Ergebnisse systematisch prüfen; Du bereitest Resultate so auf, dass sie im Team verständlich weiterverwendet werden können; Du überträgst die erarbeiteten Vorgehensweisen auf eigene berufliche Projekte.

Wird im Seminar auch das Thema „GenAI Observability mit Tracing“ behandelt?

Ja. „GenAI Observability mit Tracing“ ist ein eigener Bestandteil der Schulung. Dazu gehören Trace-Spans für LLM-Aufrufe, RAG-Abläufe in Trace-Ansichten, Tool-Aufrufe und Fehleranalyse, Kosten- und Latenzmetriken und Trace-Daten für Betriebsreviews.

Kurs buchen oder anfragen

Feste Termine · Online & Präsenz

Feste Termine · Online/Präsenz

Ort wählen Ort wählen
Wo soll die Schulung stattfinden? Wo soll die Schulung stattfinden? Live-Online Inhouse – bei Euch im Unternehmen Bei medienreich Steht noch nicht fest
Wann soll die Schulung stattfinden? Wann soll die Schulung stattfinden? So bald wie möglich In den nächsten 4 Wochen In 1–2 Monaten In 3+ Monaten Steht noch nicht fest
  • Rechnung erst nach Kursende
  • Zertifikat und Unterlagen inklusive
  • Umbuchung möglich