Kursbeschreibung
Die Kubeflow Schulung verbindet Machine-Learning-Entwicklung mit den Betriebsabläufen eines Kubernetes-Clusters. Du richtest Notebook-Umgebungen ein, überführst explorativen Python-Code in eine Kubeflow-Pipeline und verfolgst Parameter, Artefakte sowie Metriken über mehrere Runs. Namespaces, RBAC, Service-Accounts und Secrets trennen die Zugriffe der ML-Teams. Das verhindert, dass Notebook-Server, Trainingsprozesse und Inferenzdienste mit unnötig weitreichenden Berechtigungen arbeiten.
Für Training-Workloads konfigurierst du TrainJobs mit Runtime- und Ressourcenprofilen. Die Schulung vergleicht diesen Ansatz mit den früheren, Framework-spezifischen Ressourcen PyTorchJob und TFJob. Du analysierst Startfehler, Statusinformationen und Metriken, statt fehlgeschlagene Workloads nur über Container-Logs zu untersuchen. Anschließend stellst du ein trainiertes Modell als KServe-InferenceService bereit und prüfst Storage-URIs, Deployment-Manifeste sowie typische Serving-Probleme.
Der CI/CD-Teil verbindet Änderungen im Git-Repository mit Container-Images und Kubernetes-Manifesten. So entsteht ein wiederholbarer Plattformprozess, bei dem Modelländerungen nicht durch manuelle Übergaben zwischen Data Science und Plattform-Team verloren gehen. Die drei Schulungstage folgen einem durchgängigen Szenario vom Notebook bis zur Inferenzschnittstelle. Kleine Gruppen von zwei bis acht Personen geben dir Raum, Konfigurationen und Fehlersituationen mit dem Trainer zu besprechen. Thematisch gehört die Schulung zum Bereich DevOps und KI-Plattformbetrieb. Frag die Kubeflow-Schulung für dein Team an und nenne uns eure Kubernetes-Distribution sowie den gewünschten Schwerpunkt.
Die wichtigsten Themen im Überblick
- Kubeflow Pipeline mit Python-DSL
- Reproduzierbare Pipeline-Runs
- TrainJobs mit Runtime-Profilen
- KServe InferenceService bereitstellen
- RBAC und Secrets für ML-Teams
- CI/CD für ML-Komponenten
Zielgruppe
- Data-Scientists mit Kubernetes-nahen ML-Projekten
- ML-Engineers für Pipelines und Serving
- Plattform-Engineers mit Kubeflow-Verantwortung
- DevOps-Teams für ML-Plattformen
- Fachkräfte mit ersten Kubernetes-Projekten vor dem produktionsnahen Einsatz von ML-Workloads
Voraussetzung für die Schulung
- Kubernetes-Grundkenntnisse, etwa aus dem Kubernetes Grundkurs
- Container-Grundlagen aus dem Docker Linux Container Workshop
- Erfahrung mit Python-basiertem Machine Learning, etwa aus dem Python Machine Learning Grundkurs
- Sicherer Umgang mit kubectl und Git
Kursinhalte
Kubeflow-Architektur auf Kubernetes
- Kubeflow-Komponenten im Kubernetes-Cluster
- Namespaces für getrennte ML-Teams
- RBAC-Rollen und Service-Accounts
- Secrets für geschützte Zugriffe
Notebook-Umgebungen und Datenzugriff
- Kubeflow-Notebooks mit JupyterLab
- Container-Images für Notebook-Server
- Persistente Volumes für Trainingsdaten
- Datenzugriff aus Notebook-Umgebungen
Kubeflow Pipelines mit Python
- Komponenten mit der Python-DSL
- Parametrisierte Pipeline-Runs
- Caching für wiederholte Runs
- Artefaktpfade und Pipeline-Root
TrainJobs und Experiment-Metadaten
- TrainJobs mit Kubeflow Trainer
- TrainingRuntime und ClusterTrainingRuntime
- Runtime- und Ressourcenprofile
- TrainJob-Fortschritt und Metriken
- Migration von PyTorchJob und TFJob
- ML-Metadata und Run-Historien
CI/CD für ML-Workloads
- Git-basierte Änderungen am Pipeline-Code
- Container-Builds für Pipeline-Komponenten
- CI/CD für Container-Images
- GitOps für Deployment-Manifeste
Modellbereitstellung mit KServe
- InferenceService-Ressourcen in KServe
- Storage-URIs für Modellartefakte
- Deployment-Manifeste für Inferenzdienste
- Statusprüfung und Inferenztests
- Fehleranalyse bei Serving-Problemen
