Erklärbare KI: Warum entscheidet die KI so?

Baue XAI-Checks in deine ML-Pipeline ein und liefere Erklärungen, die Fachbereiche und Audits akzeptieren. Zu den Schwerpunkten gehören Was „erklärbar“ wirklich heißt, Erklärungen für tabellarische Modelle, Erklärungen für Text- und Bildmodelle, Robustheit von Erklärungen, Fairness, Bias und Compliance in der Praxis und XAI in Betrieb: von Notebook zu Prozess.

Die Schulung richtet sich an Data Scientists und Machine-Learning Engineers, AI Product Owner, Analytics Leads und Projektleitungen, Risk, Compliance, Internal Audit und Model Validation, Fachbereichsverantwortliche, die KI-Entscheidungen abnehmen und Alle, die KI-Erklärungen bewerten, einfordern oder in Prozesse integrieren wollen.

Grundverständnis von Machine Learning (Train/Test, Features, Metriken). Hilfreich: erste Erfahrung mit Modellen auf tabellarischen Daten.

Zu den Schwerpunkten gehören Was „erklärbar“ wirklich heißt, Erklärungen für tabellarische Modelle, Erklärungen für Text- und Bildmodelle, Robustheit von Erklärungen, Fairness, Bias und Compliance in der Praxis und XAI in Betrieb: von Notebook zu Prozess.

Ja. Ein eigener praxisbezogener Schwerpunkt ist „Fairness, Bias und Compliance in der Praxis“. Dabei geht es unter anderem um Bias-Quellen: Daten, Labels, Feedback-Loops, Fairness-Metriken und Trade-offs (z. B. Equalized Odds) und Dokumentation: Model Cards, Data Sheets, Audit-Trails. So werden die Inhalte auf konkrete Aufgaben und Anwendungssituationen übertragen.

Zu den angestrebten Ergebnissen gehören: Viele Teams erzeugen XAI-Plots, aber nur wenige können damit Entscheidungen wirklich absichern; Dieses Seminar setzt genau dort an: Du lernst, Erklärungen als Prüfwerkzeug zu nutzen, nicht als Dekoration für Präsentationen; Dazu startest du mit einem klaren Begriffsrahmen und typischen Entscheidungssituationen, in denen Erklärbarkeit gefordert wird, zum Beispiel bei Kreditentscheidungen,; Im Kern erarbeitest du dir ein Vorgehen, das von der Modellart abhängig ist; Für tabellarische Daten kombinierst du globale Methoden (PDP, ICE, Feature Importance) mit lokalen Methoden (SHAP-basierte Erklärungen, Fallanalysen einzelner Vorhersagen).

Ja. „Erklärungen für Text- und Bildmodelle“ ist ein eigener Bestandteil der Schulung. Dazu gehören Attention ist keine Erklärung: was du stattdessen prüfst, Saliency, Integrated Gradients, Occlusion Tests und Prompt- und Input-Sensitivität bei LLM-Anwendungen.