Kursbeschreibung
Dieses Seminar richtet sich an alle, die KI in der Cloud einsetzen sollen, aber nicht raten wollen, welche Sicherheitsmaßnahmen wirklich zählen. Du arbeitest dich praxisnah durch die wichtigsten Baustellen, die bei GenAI und LLM-Anwendungen immer wieder zu Vorfällen führen. Zuerst klärst du, wie Angreifer KI-Systeme ausnutzen: Prompt Injection als Steuerkanal, indirekte Prompt Injection über externe Inhalte, Datenabfluss über Antworten, sowie das Risiko, dass Shadow AI und unkontrollierte SaaS-Tools Unternehmensdaten nach außen tragen. Du lernst, diese Risiken als Kette zu denken: Identität, Daten, Modellzugriff und API. Danach baust du dein Fundament aus Cloud Security auf, das für KI unverzichtbar ist: Shared Responsibility Model, saubere Rollen- und Rechtevergabe, Token- und Secret-Management und ein solider Grundschutz für APIs und Netzwerke. Im Datenblock definierst du, welche Daten in Prompts erlaubt sind, wie Klassifizierung in der Praxis funktioniert und wie DLP, Logging und Verschlüsselung zusammen eine wirksame Leitplanke bilden. Anschließend entwickelst du konkrete Guardrails und Policies, inklusive Freigaben für Tools, Plugins und Connectors. Zum Abschluss sicherst du LLM-Apps und RAG-Setups ab, achtest auf Berechtigungen an Datenquellen und Indizes, planst Isolation und erstellst Monitoring- sowie Incident-Playbooks, damit du Missbrauch erkennst und nachweisbar behandelst.
Die wichtigsten Themen im Überblick
- Prompt Injection und Data Exfiltration in der Cloud erkennen
- Shadow AI und unkontrollierte SaaS-Nutzung bewerten
- Shared Responsibility für KI-Workloads richtig anwenden
- IAM-Rollen, Rechte und Tokens für GenAI sicher steuern
- Prompts mit Datenklassifizierung und DLP absichern
- GenAI-Policies, Guardrails und Freigaben klar definieren
- LLM-Apps und RAG mit API-Grundschutz absichern
- Logging und Incident-Playbooks für KI-Vorfälle planen
Zielgruppe
- IT-Administratoren und Cloud-Administratoren
- Security-Verantwortliche und IT-Sicherheitsbeauftragte
- DevOps- und Platform-Engineering-Teams
- Product Owner und Projektleitungen mit KI-Bezug
- Alle, die KI in der Cloud nutzen wollen und dabei Daten, Identitäten und Integrationen kontrollieren müssen
Voraussetzung für die Schulung
- Grundverständnis von Cloud-Diensten und Benutzerrechten (z. B. Rollen, Zugriff).
- Keine Programmierkenntnisse erforderlich, technische Neugier reicht aus.
Kursinhalte
- Bedrohungsbild: KI in Cloud-Umgebungen
- Typische Angriffswege: Prompt Injection, Data Exfiltration
- Shadow AI und unkontrollierte SaaS-Nutzung
- Risikoketten: Identität, Daten, Modell, API
- Grundlagen Cloud Security, die für KI zählen
- Shared Responsibility Model richtig anwenden
- Identity and Access Management: Rollen, Rechte, Tokens
- Netzwerk- und API-Grundschutz für KI-Workloads
- Daten schützen: von Klassifizierung bis DLP
- Welche Daten dürfen in Prompts, welche nicht?
- Data Loss Prevention und Logging als Sicherheitsnetz
- Verschlüsselung, Secrets und Schlüsselmanagement
- GenAI sicher nutzen: Policies, Guardrails, Freigaben
- Prompt- und Output-Guidelines für Teams
- Richtlinien für Tools, Plugins, Connectors
- Freigabeprozesse und Risikoakzeptanz dokumentieren
- LLM-Apps & RAG absichern
- RAG-Risiken: Datenquellen, Indizes, Berechtigungen
- API-Sicherheit: Rate Limits, Auth, Input-Validierung
- Isolation, Sandboxing und sichere Umgebungen
- Monitoring, Incident Response und Nachweisfähigkeit
- Was du loggen musst: Prompts, Zugriffe, Datenflüsse
- Erkennen von Missbrauch und Anomalien
- Incident-Playbooks für KI-bezogene Vorfälle
