Kursbeschreibung
In vielen Unternehmen gibt es inzwischen mehrere KI-Tools, aber keine verlässliche Klammer, die daraus einen steuerbaren Ablauf macht. Dieses Seminar zeigt Dir, wie Du diese Klammer baust: eine Orchestrierung, die LLMs, Datenquellen und Tools zu einem kontrollierten Workflow verbindet. Du startest mit einer pragmatischen Architektur und lernst, Use Cases so zu schneiden, dass sie messbar und automatisierbar werden. Du entscheidest bewusst zwischen Agenten und deterministischen Flows und entwickelst Routing- und Fallback-Strategien, damit der Prozess auch bei unvollständigen Informationen oder Tool-Ausfällen weiterläuft. Im technischen Teil setzt Du Integrationen über REST-APIs, Webhooks und Events um und beachtest dabei Authentifizierung, Secrets und Zugriffskontrollen. Du baust Stabilitätsmuster ein: Retries, Idempotenz, Timeouts und Umgang mit Rate Limits. Für die Modellsteuerung nutzt Du Prompting als präzise Steuerlogik. Du definierst strukturierte Outputs, validierst sie mit JSON-Schemas und reduzierst Fehlinterpretationen durch klare Trennung von Instruktionen, Kontext und Tool-Aufgaben. RAG wird eingesetzt, um Antworten auf interne Quellen zu stützen und Zitate oder Referenzen zu liefern. Zum Abschluss machst Du die Schaltzentrale betreibbar: Evals, Regressionen und Observability mit Tracing liefern Dir Qualitäts- und Kostentransparenz. Du entwickelst Governance-Regeln für erlaubte Tools, Datenklassifizierung und PII-Handling und adressierst Risiken wie Prompt Injection. Damit entsteht eine Orchestrierung, die Du produktiv verantworten kannst.
Zielgruppe
- IT-Architektinnen und IT-Architekten, die KI-Workflows in Systemlandschaften integrieren
- Machine-Learning- und Data-Teams, die LLMs mit Tools und Daten koppeln
- DevOps- und Platform-Engineers, die Betrieb, Monitoring und Security verantworten
- Product Ownerinnen und Product Owner für KI-Funktionen mit klaren Qualitätskriterien
- Für alle, die KI-Tools zu stabilen, messbaren Prozessen orchestrieren wollen
Voraussetzung für die Schulung
- Grundverständnis von APIs und Web-Anwendungen ist hilfreich.
- Erste Berührung mit LLMs oder ChatGPT erleichtert den Einstieg.
Kursinhalte
- Architektur für KI-Orchestrierung
- Use-Case-Schnitt: von Idee zu Workflow
- Bausteine: LLM, Tools, Daten, Policies
- Entscheidung: Agent vs. deterministischer Flow
- Fehlerbilder und Stabilitätsmuster
- Tool- und API-Integration
- REST-APIs, Webhooks, Events, Queues
- Authentifizierung: OAuth, API Keys, Secrets
- Rate Limits, Retries, Idempotenz
- Connector-Design und saubere Schnittstellen
- Prompting als Steuerlogik
- System- und Tool-Instructions trennen
- Output-Formate: JSON-Schemas, Validierung
- RAG-Grundlagen: Quellen, Chunking, Zitate
- Guardrails gegen Halluzinationen
- Orchestrierungsmuster für Praxisfälle
- Human-in-the-Loop Freigaben
- Mehrstufige Pipelines und Routing
- Tool-Auswahl und Fallback-Strategien
- Batch vs. Echtzeit: Latenz und Kosten
- Qualität, Tests und Observability
- Eval-Strategien: Golden Sets, Regression
- Tracing: Prompts, Tools, Tokens, Kosten
- Monitoring: Drift, Ausfälle, SLA
- Incident-Playbooks für KI-Workflows
- Governance, Sicherheit, Compliance
- Datenklassifizierung und Zugriffskontrollen
- PII-Handling, Logging-Strategie
- Policy-by-Design: erlaubte Tools und Daten
- Risiken: Prompt Injection, Data Exfiltration
