Kursbeschreibung
Dieses Seminar richtet sich an alle, die Defensive KI als praktisches Sicherheitsprogramm aufsetzen oder schärfen wollen. Du arbeitest entlang eines klaren Pfads: Bedrohungen verstehen, Kontrollen bauen, Wirksamkeit nachweisen. Zuerst untersuchst Du, wie KI Angriffe verstärkt, etwa durch automatisierte Reconnaissance, überzeugende Deepfake-Kommunikation und skalierbare Phishing-Varianten. Du übersetzt diese Erkenntnisse in priorisierte Szenarien und definierst, welche Telemetrie aus Endpoint, Netzwerk, Identity und Cloud dafür wirklich benötigt wird. Im nächsten Schritt baust Du Detection Engineering, das operativ funktioniert: sinnvolle SIEM-Regeln, Korrelationen, Triage-Workflows und ergänzende Anomalieerkennung mit klaren Grenzen. Du lernst, wie Du Angriffe auf KI-Systeme selbst erkennst, etwa Prompt-Injection, Tool-Abuse oder Datenabfluss über unsaubere Logging-Pfade. Parallel härtest Du die Infrastruktur mit Zero-Trust-Mechanismen, Segmentierung, Identity Security, Secrets-Management und Supply-Chain-Kontrollen wie Signaturen und SBOM. Danach setzt Du einen sicheren Betrieb für LLMs auf, inklusive RAG-Design, Berechtigungsmodellen, Rate-Limits und Policy-Enforcement. Abschließend bringst Du alles in Incident Response zusammen: Runbooks für BEC, Ransomware und Token-Diebstahl, Containment-Strategien, Forensik-Bausteine und Lessons Learned, die in konkrete Control-Verbesserungen münden. Mit Threat Modeling, Purple Team Übungen und KPIs wie MTTD und MTTR machst Du Fortschritt messbar und auditfähig.
Zielgruppe
- Security Engineers, SOC-Analystinnen und SOC-Analysten
- Incident Responderinnen und Incident Responder, DFIR-Teams
- Cloud Security und Identity Verantwortliche
- Security Architects und IT-Sicherheitsverantwortliche
- Alle, die KI-gestützte Angriffe erkennen und ihre Infrastruktur mit belastbaren Kontrollen absichern wollen
Voraussetzung für die Schulung
- Gute Praxiskenntnisse in IT-Security, Logs und grundlegenden Netzwerk- und Cloud-Konzepten.
- Erfahrung mit SIEM/EDR oder Incident Response ist hilfreich.
Kursinhalte
- Threat Landscape: KI als Angriffsverstärker
- Angriffsmuster: Phishing, Deepfakes, BEC, Voice-Cloning
- Automatisierte Reconnaissance und Exploit-Ketten
- Adversarial Tactics gegen Erkennung und Modelle
- Priorisierung nach Impact und Eintrittswahrscheinlichkeit
- Detection Engineering mit KI und Regeln
- SIEM-Use-Cases: saubere Signale statt Alarmflut
- UEBA und Anomalieerkennung: Grenzen und Fallstricke
- Prompt-Injection und Tool-Abuse in Logs erkennen
- Testdaten, Labeling und Drift-Checks
- Härtung von Infrastruktur und Identitäten
- Zero Trust praktisch: Segmentierung, Policy-Design
- Identity Security: MFA, Conditional Access, Passkeys
- Secrets-Management und Schlüsselhygiene
- Supply-Chain-Risiken: Artefakte, Signaturen, SBOM
- LLM- und KI-Systeme sicher betreiben
- RAG sicher designen: Datenquellen, Berechtigungen
- Guardrails: Content-Filter, Policy-Enforcement, Rate-Limits
- Model- und Prompt-Governance, Versionierung
- Datenschutz: PII-Redaction, Logging-Strategie
- Incident Response für KI-getriebene Angriffe
- Runbooks für BEC, Ransomware, Token-Diebstahl
- Containment: Netzwerk, Identity, Cloud-Controls
- Forensik: Beweissicherung und Timeline-Building
- Lessons Learned: Kontrollen messbar verbessern
- Red Teaming, Testing und Nachweis der Wirksamkeit
- Threat Modeling: STRIDE, MITRE ATT&CK Mapping
- Purple Team Übungen und Detection Validation
- KPIs: MTTD, MTTR, False Positives, Coverage
- Auditfähige Dokumentation und Control-Evidence
