Kursbeschreibung
Serverless AI ist eine Architekturentscheidung, keine Produktentscheidung. In diesem Seminar lernst du, wie du KI-Workloads so zuschneidest, dass sie zu Functions, Events und Managed Services passen, und wie du typische Fehlannahmen vermeidest. Du startest mit einem klaren Modell: Was ist FaaS, was ist BaaS, wie funktionieren eventgetriebene Systeme, und welche Limits sind in Serverless-Umgebungen realistisch. Du lernst, Cold Starts und Timeouts nicht nur zu „akzeptieren“, sondern aktiv zu managen, etwa durch passende Trigger, Aufteilung von Arbeitsschritten und den Einsatz von Queues. Darauf aufbauend entwickelst du eine robuste Integration von KI-Inferenz: du kapselst AI-API-Aufrufe, planst Retries, Fallbacks und Idempotenz und entscheidest bewusst zwischen Realtime- und Batch-Verarbeitung. Du setzt Orchestrierung über Workflows ein, um mehrstufige KI-Pipelines nachvollziehbar zu machen, und nutzt Patterns wie Fan-out/Fan-in und Dead-Letter-Queues, um Fehler nicht zu verstecken, sondern kontrolliert zu behandeln. Ein eigener Block widmet sich Security und Daten: Secrets-Handling, IAM nach Least Privilege, Logging ohne unnötige PII, Verschlüsselung und sichere Endpunkte. Für den Betrieb lernst du Observability und Qualitätssicherung: Tracing, Metriken, Testing mit Mocks und Replay sowie Versionierung und Rollouts, inklusive Feature Flags für Prompts. Am Ende kannst du Serverless AI bewerten, eine Referenzarchitektur skizzieren und die ersten produktionsnahen Bausteine sauber deployen.
Die wichtigsten Themen im Überblick
- Serverless-Grundlagen für KI-Workloads sicher einordnen
- KI-Inferenz mit Functions und Managed AI Services umsetzen
- Events, Queues und Workflows für AI-Pipelines nutzen
- Cold Starts, Timeouts und Concurrency realistisch bewerten
- Retries, Fallbacks und Idempotenz für robuste KI-Aufrufe planen
- Serverless AI mit IAM, Secrets und Datenminimierung absichern
- Latenz, Qualität und Kosten mit Observability messbar machen
- CI/CD und Infrastructure as Code für Functions anwenden
Zielgruppe
- Softwareentwicklerinnen und Softwareentwickler, die KI-Funktionen produktiv bereitstellen wollen
- Cloud Engineers und DevOps Engineers, die serverlose Plattformen für AI-Workloads designen
- Solution Architects, die Referenzarchitekturen und Governance definieren
- Product Owner und technische Projektleitungen, die Aufwand, Risiken und Kosten realistisch einschätzen müssen
- Alle, die Serverless AI verstehen und in eigene Use-Cases übertragen wollen
Voraussetzung für die Schulung
- Grundverständnis von Web-APIs (HTTP, JSON) und grundlegenden Cloud-Konzepten.
- Erste Erfahrung mit Skripting oder Programmierung ist hilfreich, aber nicht zwingend.
Kursinhalte
- Serverless-Grundlagen für KI-Workloads
- FaaS, BaaS, Event-Driven Architecture: Begriffe und Abgrenzung
- Cold Starts, Concurrency, Timeouts: typische Grenzen verstehen
- Kostenmodelle: Pay-per-Use, Requests, Compute, Egress
- Wann Serverless für AI passt und wann nicht
- AI-APIs und Inferenz in Serverless-Architekturen
- Aufbau eines Inference-Endpunkts über Functions und Managed AI Services
- Prompting-Grundlagen und Output-Validierung in produktiven Flows
- Batch vs. Realtime: Latenz, Durchsatz, Queue-Patterns
- Fallbacks, Retries und Idempotenz für robuste KI-Aufrufe
- Events, Queues und Orchestrierung
- Trigger: HTTP, Cron, Storage-Events, Message Queues
- Fan-out/Fan-in, Worker-Pattern, Dead-Letter-Queues
- Workflows: Zustandsmaschinen für mehrstufige KI-Pipelines
- Rate Limits und Backpressure sauber lösen
- Daten, Storage und Security für Serverless AI
- Secrets-Handling, IAM/Rollen, Least Privilege
- PII, Logging, Datenminimierung und Aufbewahrungsfristen
- Verschlüsselung, Netzwerkgrenzen und sichere Endpunkte
- Grundlagen: Vektorsuche als Managed-Komponente einbinden
- Observability, Qualität und Betrieb ohne Serverbetrieb
- Tracing, strukturierte Logs, Metriken für Latenz und Kosten
- Prompt- und Response-Telemetrie: was du messen solltest
- Testing: Contract-Tests, Mocking von AI-APIs, Replay
- Rollouts, Versionierung und Feature Flags für Prompts
- Deployment und Governance
- Infrastructure as Code: reproduzierbare Umgebungen
- CI/CD für Functions und Workflows
- Guardrails: Policies, Quotas, Budget Alerts
- Referenzarchitekturen für typische Serverless-AI-Use-Cases
