Kursbeschreibung
Erklärbarkeit wird oft erst dann eingefordert, wenn ein Modell bereits im Einsatz ist und plötzlich Fragen auftauchen: Warum wurde ein Kunde abgelehnt? Warum wird ein Ticket falsch priorisiert? Warum reagiert ein LLM-gestützter Prozess empfindlich auf kleine Eingabeänderungen? In diesem Seminar baust du die Fähigkeit auf, solche Fragen systematisch zu beantworten und XAI als festen Bestandteil deiner Qualitätssicherung zu etablieren. Du lernst, Erklärungen passend zur Entscheidungssituation auszuwählen: global, wenn du Modellverhalten über viele Fälle verstehen willst, lokal, wenn du Einzelfälle begründen oder anfechten musst. Für tabellarische Modelle setzt du Feature-basierte Verfahren ein und nutzt PDP und ICE, um nichtlineare Zusammenhänge sichtbar zu machen. Du arbeitest mit SHAP als Standardwerkzeug, aber auch mit einem kritischen Blick: Welche Annahmen stecken dahinter, wie wirken Korrelationen, und wann entstehen trügerisch saubere Storys? Für Bild- und Textmodelle ordnest du Saliency und Integrated Gradients ein, testest mit Occlusion und Ablation und lernst, warum Attention nicht automatisch eine Erklärung ist. Ein Schwerpunkt ist die Belastbarkeit: Du führst Randomization-Checks durch, vergleichst Erklärungen über Trainingsläufe und entwickelst Counterfactuals, die konkrete Stellhebel zeigen. Zum Schluss übersetzt du XAI-Ergebnisse in Akzeptanzkriterien, Monitoring-Checks und Dokumentation wie Model Cards, sodass du Erklärbarkeit, Fairness und Compliance praktisch zusammenbringst.
Die wichtigsten Themen im Überblick
- Erklärbarkeit, Interpretierbarkeit und Transparenz trennen
- SHAP, PDP und ICE für tabellarische Modelle sicher anwenden
- Text- und Bildmodelle mit Saliency und Occlusion prüfen
- Robuste XAI-Checks für Seeds, Splits und Drift aufbauen
- Bias erkennen und Fairness-Metriken praxisnah bewerten
- Model Cards, Data Sheets und Audit-Trails nachvollziehbar nutzen
- XAI-Akzeptanzkriterien für ML-Pipelines definieren
- KI-Erklärungen für Fachbereiche, Risiko und Legal liefern
Zielgruppe
- Data Scientists und Machine-Learning Engineers
- AI Product Owner, Analytics Leads und Projektleitungen
- Risk, Compliance, Internal Audit und Model Validation
- Fachbereichsverantwortliche, die KI-Entscheidungen abnehmen
- Alle, die KI-Erklärungen bewerten, einfordern oder in Prozesse integrieren wollen
Voraussetzung für die Schulung
- Grundverständnis von Machine Learning (Train/Test, Features, Metriken).
- Hilfreich: erste Erfahrung mit Modellen auf tabellarischen Daten.
Kursinhalte
- Was „erklärbar“ wirklich heißt
- Erklärbarkeit vs. Interpretierbarkeit vs. Transparenz
- Use Cases: Kredit, HR, Medizin, Industrie, Marketing
- Grenzen: Korrelation, Kausalität, Proxy-Features
- Erklärungen für tabellarische Modelle
- Global vs. lokal: Feature Importance, PDP, ICE
- SHAP-Grundprinzip und typische Fallstricke
- Monotonic Constraints und verständliche Modelle
- Erklärungen für Text- und Bildmodelle
- Attention ist keine Erklärung: was du stattdessen prüfst
- Saliency, Integrated Gradients, Occlusion Tests
- Prompt- und Input-Sensitivität bei LLM-Anwendungen
- Robustheit von Erklärungen
- Stabilität über Seeds, Splits und Daten-Drift
- Sanity Checks: Randomization, Permutation, Ablation
- Counterfactuals: „Was müsste sich ändern, damit…?“
- Fairness, Bias und Compliance in der Praxis
- Bias-Quellen: Daten, Labels, Feedback-Loops
- Fairness-Metriken und Trade-offs (z. B. Equalized Odds)
- Dokumentation: Model Cards, Data Sheets, Audit-Trails
- XAI in Betrieb: von Notebook zu Prozess
- Definition von XAI-Akzeptanzkriterien und Schwellenwerten
- Monitoring: Drift, Performance, Explanation-Drift
- Kommunikation: Erklärungen für Fachbereich, Risiko, Legal
