Kursbeschreibung
Risikomanagement für KI bedeutet nicht, Innovation auszubremsen, sondern sie verantwortbar zu skalieren. In diesem Seminar lernst Du einen Ansatz, der sich an realen Entwicklungs- und Betriebsprozessen orientiert: Du identifizierst Risiken früh, priorisierst sie nachvollziehbar und verankerst Kontrollen dort, wo sie Wirkung haben. Du beginnst mit einer systematischen Risikoanalyse für KI-Systeme und lernst, wie Du Use Cases in Risikoklassen einteilst, Bedrohungen modellierst und Akzeptanzkriterien festlegst. So entsteht eine gemeinsame Sprache zwischen Business, Technik und Compliance. Darauf aufbauend entwickelst Du eine Governance, die Entscheidungen trägt: Rollen, RACI, Freigabeprozesse, Change Control und klare Regeln für den Einsatz von GenAI. Ein weiterer Schwerpunkt ist die Nachweisführung. Du klärst, wie Du Anforderungen aus EU AI Act und DSGVO in konkrete Artefakte übersetzt, etwa in Form von Risikoregister, DPIA-Beiträgen, Kontrollnachweisen, Logging- und Monitoring-Konzepten. Du lernst außerdem, wie ISO/IEC 42001 als Managementsystem helfen kann, ohne dass Du in Papierprozesse abrutschst. Im technischen Teil setzt Du einen praxistauglichen Kontrollkatalog auf: Data Governance mit Versionierung, Modellvalidierung gegen Bias und Robustheitsprobleme, Drift-Erkennung, Output-Qualitätssicherung und Schutz vor Prompt-Injection. Abschließend erarbeitest Du Incident-Response-Playbooks inklusive Red-Teaming, Kill-Switch, Rollback und Lessons Learned. Ergebnis ist ein belastbarer Werkzeugkasten, mit dem Du KI-Systeme sicher betreiben und Entscheidungen gegenüber Stakeholdern und Audits begründen kannst.
Die wichtigsten Themen im Überblick
- KI-Risiken von Use Case bis Betrieb sicher bewerten
- Risikoklassen, Risk Appetite und Go/No-Go festlegen
- EU AI Act, DSGVO und ISO 42001 prüfbar umsetzen
- Governance, RACI und Freigaben für KI-Systeme aufbauen
- Bias, Drift und Robustheit mit Kontrollen überwachen
- GenAI-Guardrails für Prompts, Outputs und Daten nutzen
- KI-Incidents mit Playbooks und Kill-Switch steuern
- Risikoregister, Audit-Trail und Evidenzen erstellen
Zielgruppe
- IT- und Security-Verantwortliche mit KI-Projekten
- Data-Science- und ML-Engineering-Teams
- Compliance-, Datenschutz- und Risk-Management-Funktionen
- Product Owner und Projektleitungen für KI-Produkte
- Für alle, die KI-Systeme sicher, prüfbar und regelkonform in die Organisation bringen wollen
Voraussetzung für die Schulung
- Grundverständnis von KI/ML oder GenAI-Anwendungsfällen und typischen Datenflüssen
- Erfahrung mit IT-Prozessen, Governance oder Compliance ist hilfreich
Kursinhalte
- KI-Risiken richtig einordnen
- Risikobegriffe: Modell, Daten, Prozess, Mensch
- Use-Case-Triage und Risikoklassen
- Bedrohungsmodelle für KI-Systeme
- Akzeptanzkriterien und Risk Appetite
- Governance, Rollen und Entscheidungswege
- RACI: Product Owner, IT, Legal, Security
- Freigabeprozesse und Change Control
- Third-Party- und Vendor-Risiken
- Policy-Set für GenAI und ML
- Recht, Compliance und Nachweisfähigkeit
- EU AI Act: Pflichten, Dokumentation, Kontrollen
- DSGVO: Rechtsgrundlagen, DPIA, Zweckbindung
- ISO/IEC 42001 und Mapping zu ISO 27001
- Audit-Trail, Evidenzen, Reporting
- Technische Kontrollen und Guardrails
- Data Governance: Herkunft, Qualität, Versionierung
- Modell-Validierung: Bias, Robustheit, Drift
- Prompt- und Output-Sicherheit bei GenAI
- Monitoring, Logging und Alarmierung
- Incident Response und Betrieb
- KI-spezifische Vorfälle und Playbooks
- Red-Teaming und Abuse-Tests
- Rollback, Kill-Switch, Human-in-the-Loop
- Lessons Learned und kontinuierliche Verbesserung
- Risikobewertung in der Praxis
- Scoring-Modell und Risikoregister
- Kontrollkatalog und Maßnahmenplanung
- Go/No-Go-Entscheidungen begründen
- Vorlagen: Checklisten, Reports, SOPs
