Kursbeschreibung
Du willst KI-Services in AWS oder Azure bereitstellen, ohne Dich in Einzeldiensten zu verlieren? In diesem Seminar lernst Du ein klares Vorgehen, das Dich von der Idee bis zum betreibbaren Endpoint führt. Du startest mit den Kernfragen produktiver KI: Wie trennst Du Training und Inferenz, welche Datenpfade sind kritisch, wie planst Du Skalierung und welche Anforderungen ergeben sich aus Latenz und Verfügbarkeit? Darauf folgt ein strukturierter Vergleich der Cloud-Bausteine, die in der Praxis immer wieder gebraucht werden. Du verstehst, wie SageMaker und Azure Machine Learning Training, Deployment und Registry-Funktionen abdecken können, wann Container-Deployments auf ECS/EKS oder AKS sinnvoll sind und wie Du Storage (S3, ADLS) sowie Messaging und Events für robuste Pipelines nutzt. Du lernst außerdem, wie Du eine Inference-API entwirfst, als Docker-Image auslieferst und Updates kontrolliert einspielst. Ein zentraler Teil ist Governance: Reproduzierbarkeit, Experiment-Tracking, Modellversionen, Freigaben und CI/CD-Pipelines mit klaren Qualitätskriterien. Security wird nicht als Checkliste behandelt, sondern als Architektur: Least Privilege, Secrets, private Endpoints, Verschlüsselung und saubere Rollenmodelle. Abschließend setzt Du Dich mit Betrieb und Kosten auseinander: Monitoring, Drift, Alarmierung, SLOs, Runbooks sowie konkrete Maßnahmen wie Right-Sizing und Autoscaling, damit Cloud-native KI dauerhaft stabil und wirtschaftlich bleibt.
Die wichtigsten Themen im Überblick
- Cloud-native KI-Architekturen für AWS und Azure planen
- ML-Modelle als skalierbare APIs deployen
- SageMaker und Azure Machine Learning passend zuordnen
- Container, Endpoints und Inferenz-Services bereitstellen
- MLOps mit Tracking, Registry und CI/CD umsetzen
- IAM, RBAC und Private Endpoints sicher konfigurieren
- Drift, Logs, Metrics und Alerts im Betrieb überwachen
- KI-Kosten mit Right-Sizing und Skalierung steuern
Zielgruppe
- Softwareentwicklerinnen und Softwareentwickler, die ML-Modelle als APIs bereitstellen
- Data Scientists, die ihre Modelle in AWS oder Azure produktiv bringen wollen
- ML Engineers und DevOps Engineers mit Verantwortung für Deployment und Betrieb
- IT-Architektinnen und IT-Architekten, die Cloud-native KI-Architekturen bewerten
- Alle, die KI-Workloads auf AWS/Azure planen, deployen und betreiben wollen
Voraussetzung für die Schulung
- Grundverständnis von Cloud-Konzepten (z.B. IAM/Rollen, Storage, Netzwerk) und Container-Grundlagen.
- Erste Berührung mit Machine Learning (Begriffe wie Training, Inferenz, Modell) ist hilfreich.
Kursinhalte
- Cloud-native KI-Architekturen verstehen
- Unterschied: Notebook-Prototyp vs. produktiver Service
- Compute-Optionen: CPU, GPU, Managed Services
- Referenzarchitekturen für Inferenz und Training
- Datenflüsse, Latenz und Skalierung
- AWS- und Azure-Bausteine für ML richtig zuordnen
- Training und Hosting: SageMaker vs. Azure Machine Learning
- Container: ECR/ECS/EKS vs. ACR/AKS
- Storage und Data Lake: S3 vs. ADLS
- Messaging und Events: SQS/SNS vs. Service Bus/Event Grid
- Von Code zu Deployment: Container, APIs, Endpoints
- Inference-API als REST-Service (FastAPI/Flask Prinzip)
- Docker-Images bauen, versionieren, ausrollen
- Autoscaling, Rolling Updates, Blue-Green Prinzip
- Batch Inference vs. Real-time Inference
- MLOps-Grundlagen: Reproduzierbarkeit und Governance
- Experiment-Tracking, Model Registry, Artefakte
- CI/CD für ML: Pipeline-Schritte und Gates
- Feature Store und Datenversionierung (Prinzipien)
- Freigaben, Reviews, Audit-Trails
- Security, Compliance und Responsible AI
- IAM/RBAC, Least Privilege, Secrets Handling
- Netzwerk: Private Endpoints, VPC/VNet Muster
- Verschlüsselung, Schlüsselmanagement, Datenzugriff
- Risiken: Prompt Injection, Data Leakage, Model Abuse
- Monitoring, Kosten und Betrieb
- Observability: Logs, Metrics, Traces, Alerts
- Model Monitoring: Drift, Datenqualität, Performance
- Kostenhebel: Spot/Reserved, Right-Sizing, Skalierung
- SLOs, Incident-Playbooks, Runbooks
