KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT und Co.

Erkenne, stoppe und untersuche KI-gestützte Angriffe, bevor sie Schaden anrichten.

KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT und Co.
KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT und Co.

Kursbeschreibung

  • Kurs-ID:KKC_0121
  • Kursdauer:2 Tage
  • Uhrzeit:09:00 - 16:00 Uhr
Viele Organisationen führen GenAI-Tools ein, ohne die Sicherheitsarchitektur an die neuen Angriffspfade anzupassen. Dieses Seminar zeigt dir, wie du bösartige KI als konkrete Bedrohung behandelst und daraus belastbare Kontrollen ableitest. Du unterscheidest zwischen KI als Angriffsverstärker im Social Engineering und KI als direkte Angriffsfläche in LLM-, RAG- und Agenten-Systemen. So kannst du Risiken priorisieren, statt pauschal „KI zu verbieten“ oder blind zu vertrauen. Du arbeitest an Szenarien, in denen Angreifer mit KI überzeugende Identitäten aufbauen, interne Prozesse ausnutzen und Entscheidungen beeinflussen. Dazu gehören Business Email Compromise, Deepfake-Voice-Calls, Pretexting und gezielte Manipulation von Support-Workflows. Parallel vertiefst du technische Angriffe wie Prompt-Injection, Tool-Abuse und Data Poisoning. Du lernst, welche Designfehler diese Angriffe begünstigen: fehlende Trennung von Datenklassen, zu breite Berechtigungen, unkontrollierte Quellen in RAG, keine Auditability bei Tool-Calls und unzureichende Telemetrie. Im zweiten Teil entwickelst du ein umsetzbares Schutzkonzept: Guardrails und Filter, sichere Agentenrechte, Freigaben für Actions, DLP- und Secrets-Strategien sowie Monitoring, das sicherheitsrelevante Muster erkennt. Du erstellst SOC-taugliche Playbooks für Triage und Eskalation und definierst, welche Beweise du im Incident Response sichern musst, inklusive Prompt-Verläufen, Kontext, Quellen und Tool-Aufrufen. Abschließend setzt du Governance-Bausteine auf, die GenAI-Use-Cases kontrollierbar machen: Risikoanalyse, Policies, Lieferkettenprüfung und messbare Sicherheitsanforderungen für Anbieter und interne Teams.

Die wichtigsten Themen im Überblick

  • WormGPT, FraudGPT und bösartige LLMs sicher erkennen
  • Prompt-Injection in Chatbots, RAG und Agenten stoppen
  • LLM- und RAG-Systeme mit Guardrails wirksam härten
  • KI-Phishing, Deepfakes und Social Engineering analysieren
  • Detection-Logik für GenAI-TTPs und Anomalien bauen
  • Prompts, Tool-Calls, API-Keys und Secrets absichern
  • KI-Missbrauch mit Logs und Playbooks untersuchen
  • GenAI-Risiken für Governance und Compliance bewerten

Zielgruppe

  • SOC-Analystinnen und SOC-Analysten, Incident Responder
  • Security Engineers, Detection Engineers, Threat Hunter
  • IAM-, E-Mail- und Endpoint-Security-Verantwortliche
  • Architektinnen und Architekten für GenAI, RAG und Agenten
  • Für alle, die KI-gestützte Angriffe erkennen, abwehren und untersuchen wollen

Voraussetzung für die Schulung

  • Grundkenntnisse in IT-Security, gängigen Angriffsmethoden und Logging (z. B. E-Mail, IdP, EDR).
  • Sicherer Umgang mit LLMs
  • Hilfreich sind erste Berührungspunkte mit RAG, aber nicht zwingend.

Kursinhalte

  • Bedrohungsbild: bösartige KI in der Praxis
    • WormGPT, FraudGPT und ähnliche Modelle: Fähigkeiten und Grenzen
    • Angriffsketten mit GenAI: von Recon bis Exfiltration
    • Warum klassische Security-Kontrollen oft zu spät greifen
  • Prompt-Injection, Data Poisoning, Model Abuse
    • Prompt-Injection in Chatbots, RAG und Agenten
    • Indirekte Prompt-Injection über Dateien, Links, Tickets
    • Poisoning von Trainingsdaten und Wissensbasen
    • Abuse von Tools, Plugins und Actions
  • KI-gestütztes Phishing und Social Engineering
    • Business Email Compromise mit LLM-Textqualität
    • Deepfake Voice: Angriffsabläufe und Erkennungsmerkmale
    • Pretexting, Smishing, MFA-Fatigue, Helpdesk-Bypass
  • Detection Engineering für GenAI-Angriffe
    • Log-Quellen: E-Mail, IdP, EDR, Proxy, DLP, Chatbot-Telemetrie
    • Signale und Heuristiken: Schreibmuster, TTPs, Anomalien
    • Playbooks für SOC: Triage, Evidence, Eskalation
  • Hardening von LLM- und RAG-Systemen
    • Input/Output-Filter, Content Policies, Guardrails
    • Secrets-Schutz: Token, API-Keys, Prompt-Leaks verhindern
    • RAG-Sicherheit: Quellenbewertung, Chunking, Zitierpflicht
    • Least Privilege für Agenten und Tool-Aufrufe
  • Incident Response und Forensik bei KI-Missbrauch
    • Beweissicherung: Prompts, Kontexte, Tool-Calls, Artefakte
    • Root Cause: Lücke im Workflow statt nur im Modell
    • Post-Incident Maßnahmen: Controls, Training, Monitoring
  • Governance, Risiko und Compliance
    • Risikobewertung für GenAI-Use-Cases (Threat Modeling)
    • Policy-Design: erlaubte Daten, erlaubte Tools, Freigaben
    • Lieferkette: Anbieterprüfung, Datenflüsse, Verträge

Wähle aus 4 Terminen:

Ergebnisse filtern
KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT und Co.
11.01. - 12.01.2027 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.090 € netto (1.297,10 € brutto)

Datum und Uhrzeit

11.01. - 12.01.2027
09:00 - 16:00 Uhr

KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT und Co.
08.03. - 09.03.2027 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.090 € netto (1.297,10 € brutto)

Datum und Uhrzeit

08.03. - 09.03.2027
09:00 - 16:00 Uhr

KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT und Co.
10.05. - 11.05.2027 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.090 € netto (1.297,10 € brutto)

Datum und Uhrzeit

10.05. - 11.05.2027
09:00 - 16:00 Uhr

KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT und Co.
05.07. - 06.07.2027 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.090 € netto (1.297,10 € brutto)

Datum und Uhrzeit

05.07. - 06.07.2027
09:00 - 16:00 Uhr

  • Firmenschulung

    In einem unserer 21 Schulungszentren oder Live Online mit individuellen Inhalten

    • Passgenaue Inhalte nach deinem Bedarf
    • Individuelle Terminplanung
    • Hybride und Modulare Trainingsgestaltung
    • Kostenvorteil für dein Team
    Firmenschulung anfragen
  • Inhouseschulung

    Wir kommen zu dir ins Unternehmen und planen eure Inhouseschulung

    • Inhalte auf euch zugeschnitten
    • Termine nach euren Bedürfnissen
    • Vertraute Umgebung, kein Reiseaufwand
    Inhouseschulung anfragen
  • Offene Termine

    Du benötigst ein Angebot für unsere offenen Termine oder einer der Termine passt dir nicht? Einfach hier anfragen

    • Feste Termine, im Voraus planbar
    • An unseren 21 Standorten oder Live-Online
    • Austausch mit anderen Teilnehmenden
    • Kleine Lerngruppen von bis zu 8 Personen
    Offene Schulung anfragen

Verwandte Kurse

  • Open-Source-LLMs lokal betreiben: Grundkurs

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 07.12.2026

    Weitere Kursinfos
  • Midjourney, Firefly, SD und Co. Kurs: Führende KI-Bild-Tools im Vergleich und Einsatz

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 23.11.2026

    Weitere Kursinfos
  • Large Language Models Advanced Kurs: Eigene LLMs und Tuning

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 07.12.2026

    Weitere Kursinfos
  • GEO Grundkurs: Sichtbarkeit in ChatGPT, Perplexity und Co.

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 18.01.2027

    Weitere Kursinfos
  • MLflow 3 Schulung: GenAI Observability für LLMs

    Nächste und weitere Termine:
    In Präsenz: 11.01.2027
    Live Online: 11.01.2027

    Weitere Kursinfos
  • Effektive KI Software-Tests mit LLMs Kurs

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 16.11.2026

    Weitere Kursinfos
  • KI für Local Marketing Kurs: Vor Ort gefunden werden

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 16.11.2026

    Weitere Kursinfos
  • KI für Entscheider Kurs: Akzeptanz statt Abwehr

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 14.12.2026

    Weitere Kursinfos
eKomi Seminarbewertungen für www.kebel.de

Geprüfte Weiterbildungsqualität: eKomi Seminarbewertungen von Kebel Training

Unsere Kebel Training GmbH setzt bei der Qualitätssicherung auf unabhängige eKomi-Kundenbewertungen, um die Zufriedenheit nach jeder Schulung transparent abzubilden.

Mit über 1.800 verifizierten Bewertungen innerhalb der letzten 12 Monate gehört das Unternehmen zu den bestbewerteten Anbietern für IT-, KI- und Soft-Skills-Weiterbildungen im deutschsprachigen Raum.

Nach jedem durchgeführten Seminar erhalten alle Teilnehmenden die Einladung, das Training freiwillig und anonym über das unabhängige Bewertungsportal eKomi zu beurteilen.

Zum Bewertungsportal

Kebel Training GmbH wurde im Rahmen einer bundesweiten Kundenbefragung mit dem Award „Deutschlands Beste Business-Partner 2026“ im Bereich IT-Weiterbildung ausgezeichnet. Die Auszeichnung würdigt B2B-Unternehmen auf Grundlage der Erfahrungen und Bewertungen ihrer Kunden.

Ausgezeichnete IT-Weiterbildung: Kebel Training zählt zu „Deutschlands Beste Business-Partner 2026“

Die Kebel Training GmbH wurde im Rahmen einer bundesweiten Kundenbefragung mit dem Siegel „Deutschlands Beste Business-Partner 2026“ in der Kategorie IT-Schulungs- & Zertifizierungsanbieter ausgezeichnet. Im Ranking des DUP UNTERNEHMER-Magazins und des Deutschen Instituts für Service-Qualität (DISQ) vom 13. August 2026 erreichte das Unternehmen den 3. Platz. Die Auszeichnung basiert auf unabhängigen Kundenbewertungen und bestätigt die hohe Service- und Trainingsqualität für Geschäftskunden in ganz Deutschland. Als Weiterbildungspartner unterstützt Kebel Training Unternehmen, Fachkräfte und Teams dabei, Software-Lösungen im Arbeitsalltag effizient einzusetzen. Das Kursportfolio umfasst über 1.200 praxisorientierte Seminare und offizielle Zertifizierungen – darunter Schwerpunkte in den Bereichen:

  • Microsoft-Schulungen: Von Microsoft 365, Office-Anwendungen und Power BI bis hin zu Azure Cloud, Windows Server und IT-Security.
  • KI-Schulungen: Ob Grundlagen oder vertiefende Themen – unsere KI Schulungen unterstützen Dich dabei, KI kompetent und verantwortungsvoll in Deinem beruflichen Umfeld einzusetzen.
  • SAP-Schulungen:  Im Fokus stehen u. a. praxisnahe Szenarien aus Finance, Controlling, Logistik, Produktion, HR, Reporting und Analytics.
  • DATEV-Seminare: Gezielte Weiterbildungen für Finanzbuchhaltung, Lohnabrechnung, Jahresabschluss und digitale Kanzleiprozesse.
  • Autodesk-Trainings: Spezialisierte CAD- und BIM-Kurse für AutoCAD, Revit, Inventor und Fusion 365.
  • Soft Skills Seminare: Hierbei handelt es sich um soziale Kompetenzen bzw. soziale Intelligenz wie Teamfähigkeit, ein gutes Gedächtnis, rhetorische Fähigkeiten, Know-how im Projekt-Management und kommunikative Kompetenz.

Warum Unternehmen und Kunden auf unser Kebel Team setzen?

Die Top-Platzierung beim Business-Partner-Award 2026 spiegelt die konsequente Ausrichtung auf den Lernerfolg der Teilnehmenden wider. Kunden profitieren von klaren Qualitätsstandards:

  • 100 % Durchführungsgarantie: Jedes Seminar findet garantiert statt – bereits ab 1 angemeldeten Person.
  • Kleine Lerngruppen: Mit maximal 2 bis 8 Teilnehmenden bleibt genügend Raum für individuelle Fragen und Praxisbeispiele.
  • Maximale Flexibilität: Alle Trainings sind an 21 Standorten deutschlandweit, als Live-Online-Seminar oder als maßgeschneiderte Inhouse-Schulung direkt im Unternehmen buchbar.
  • Erfahrene Trainer und Trainerinnen aus der Praxis vermitteln Wissen verständlich und direkt anwendbar.

FAQ

Du lernst, wie bösartige LLMs wie WormGPT, FraudGPT und ähnliche Modelle in Angriffsketten eingesetzt werden. Der Kurs zeigt Fähigkeiten, Grenzen und typische Abläufe von Recon bis Exfiltration.

Der Kurs richtet sich an Personen mit Grundkenntnissen in IT-Security, gängigen Angriffsmethoden und Logging. Er passt besonders für Security-Teams, SOC-Teams, Incident-Response-Verantwortliche und Personen, die LLM- oder RAG-Systeme absichern.

Du brauchst Grundkenntnisse in IT-Security sowie Erfahrung mit Log-Quellen wie E-Mail, IdP oder EDR. Sicherer Umgang mit LLMs wird vorausgesetzt, erste Berührungspunkte mit RAG sind hilfreich.

Im Seminar behandelst Du Input- und Output-Filter, Content-Policies, Guardrails und Least-Privilege für Agenten und Tool-Aufrufe. Zusätzlich geht es um RAG-Sicherheit mit Quellenbewertung, Chunking und Zitierpflicht.

Behandelt werden unter anderem Prompt-Injection, Data-Poisoning, Model-Abuse, KI-gestütztes Phishing und Social-Engineering. Dazu zählen Business-Email-Compromise, Deepfake-Voice, Smishing, MFA-Fatigue und Helpdesk-Bypass.

Du arbeitest mit relevanten Log-Quellen wie E-Mail, IdP, EDR, Proxy, DLP und Chatbot-Telemetrie. Der Kurs behandelt Signale, Heuristiken, Anomalien sowie SOC-Playbooks für Triage, Evidence und Eskalation.

Der Kurs zeigt, welche Artefakte bei KI-Missbrauch wichtig sind, darunter Prompts, Kontexte, Tool-Calls und erzeugte Dateien. Außerdem geht es um Root-Cause-Analyse, Post-Incident-Maßnahmen, Controls, Training und Monitoring.

Der KI-Securitykurs dauert 2 Tage. In dieser Zeit behandelst Du Bedrohungsbild, Angriffstechniken, Detection-Engineering, Hardening, Incident-Response und Governance für GenAI-Use-Cases.

Ja, nach erfolgreicher Teilnahme am KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT und Co. erhältst Du ein Teilnahmezertifikat. Dieses bestätigt Deine erweiterten Kenntnisse im professionellen Einsatz von KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT und Co. .

Ja, wir garantieren die Durchführung aller von uns bestätigten Termine. Der KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT und Co. findet auch bereits ab einem Teilnehmer statt, sodass Du Deine Weiterbildung sicher und zuverlässig planen kannst.

Ja, wir bieten den KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT und Co. als Inhouse Training oder Firmenschulung an. Zusätzlich kann die Schulung auch als Online-Firmenschulung durchgeführt werden. Inhalte, Prozesse und Schwerpunkte passen wir individuell an die Anforderungen Deines Unternehmens an.

Name