Linux Administration für KI-Workloads mit GPUs Kurs

Treiber, CUDA-Stack, Performance und stabile Deployments für Training und Inference

Linux Administration für KI-Workloads mit GPUs Kurs
Linux Administration für KI-Workloads mit GPUs Kurs

Kursbeschreibung

  • Kurs-ID:KKC_0240
  • Kursdauer:3 Tage
Du betreibst Linux-Systeme, auf denen Data Science, Training oder Inference laufen sollen, und willst weniger „mysteriöse“ GPU-Probleme und mehr reproduzierbare Ergebnisse? Dieses Seminar führt Dich durch die entscheidenden Bausteine eines stabilen KI-Stacks auf Linux. Du beginnst bei den NVIDIA-Treibern und lernst, wie Kernel, Module, DKMS und Secure Boot zusammenspielen. Du übst, wie Du Treiber-Updates und Kernel-Updates so orchestrierst, dass Du Rollbacks beherrschst und Ausfälle vermeidest. Darauf aufbauend setzt Du CUDA, cuDNN und NCCL so ein, dass die Kompatibilität nachvollziehbar bleibt. Du lernst, welche Checks wirklich aussagekräftig sind, wie Du Persistenced einordnest und wie Du mit kurzen Tests die GPU-Funktion und grundlegende Performance verifizierst. Multi-GPU-Aspekte wie PCIe-Topologie, NVLink und NUMA werden so erklärt, dass Du sie in Troubleshooting und Kapazitätsplanung einsetzen kannst. Ein zentraler Teil ist der Container-Betrieb: Docker mit NVIDIA Container Toolkit, GPU-Durchreichung, Berechtigungen und typische Ursachen für fehlschlagende Jobs trotz „grünem“ Container-Start. Ergänzend behandelst Du Ressourcensteuerung mit cgroups v2, ulimits und Shared Memory sowie Performance-Tuning bei Storage und Netzwerk. Abschließend baust Du ein Betriebsset aus Monitoring-Pfaden, Incident-Playbooks und einer Go-Live-Checkliste, damit KI-Workloads nicht nur starten, sondern dauerhaft zuverlässig laufen.

Die wichtigsten Themen im Überblick

  • GPU-Stack unter Linux stabil aufsetzen
  • NVIDIA-Treiber, CUDA, cuDNN und NCCL sicher abstimmen
  • KI-Container mit Docker reproduzierbar bauen
  • GPU-Ressourcen mit cgroups v2 und MIG gezielt isolieren
  • Training und Inference mit NUMA und Storage optimieren
  • GPU-Monitoring für Auslastung und Thermals einrichten
  • Treiber- und Kernel-Probleme systematisch beheben
  • Go-Lives mit Checks, Runbooks und Rollback absichern

Zielgruppe

  • Linux-Administratorinnen und Linux-Administratoren mit Betriebsverantwortung für GPU-Server
  • DevOps- und Platform-Engineers, die KI-Workloads containerisiert ausrollen
  • ML-Engineers und MLOps-Verantwortliche mit Bedarf an stabilem Infrastruktur-Setup
  • IT-Betrieb und SRE-Teams, die Training und Inference absichern
  • Für alle, die GPU-Workloads unter Linux reproduzierbar, performant und wartbar betreiben wollen

Voraussetzung für die Schulung

  • Sichere Linux-Kenntnisse (Shell, Systemdienste, Paketmanagement, Logs)
  • Grundverständnis von Docker ist hilfreich, aber nicht zwingend

Kursinhalte

  • GPU-Stack unter Linux stabil aufsetzen
    • NVIDIA-Treiber: Versionierung, DKMS, Secure Boot, Kernel-Updates
    • CUDA, cuDNN, NCCL: Kompatibilität und typische Fallstricke
    • Multi-GPU-Grundlagen: Topologie, PCIe, NVLink, NUMA
    • Validierung: nvidia-smi, Persistenced, Smoke-Tests
  • Container für KI: Docker, NVIDIA Container Toolkit
    • GPU in Containern: Runtime, Device-Plugin-Logik, Berechtigungen
    • Images reproduzierbar bauen: Base-Images, Pinning, SBOM-Idee
    • Fehlerbilder: „CUDA driver too old“, fehlende Libs, Mount-Probleme
    • Best Practices für Training vs. Inference
  • Ressourcen, Scheduling und Isolation
    • cgroups v2: CPU, RAM, IO und GPU-Device-Zugriff
    • MIG und GPU-Slicing (Überblick): sinnvolle Einsatzmuster
    • Ulimits, Shared Memory, Hugepages: typische KI-Engpässe
    • Mehrbenutzerbetrieb: Rechte, Gruppen, Policy-Ansätze
  • Performance-Tuning für Training und Inference
    • Storage-Pfade: NVMe, RAID, Filesystem-Optionen, Dataset-Caching
    • Netzwerk: MTU/Jumbo Frames, RDMA-Grundlagen, Latenz-Checks
    • CPU-Pinning, NUMA-Affinität, IRQ-Balancing
    • Monitoring: GPU-Utilization, Thermals, Power-Limits
  • Observability, Troubleshooting und Betrieb
    • Logs und Metriken: journald, dmesg, DCGM-Ansatz, Exporter-Idee
    • Kernel- und Treiber-Debugging: Module, Signaturen, tainted Kernel
    • Incident-Playbooks: Rollback, Canary, Wartungsfenster
    • Hardening: Updates, Repo-Strategie, minimaler Angriffsvektor
  • Praxis: Referenz-Setup und Abnahmecheck
    • Golden Path: von Bare Metal bis Container-Workload
    • Kompatibilitätsmatrix als Betriebsdokument
    • Checkliste für Go-Live: Tests, Limits, Monitoring, Backup
    • Übergabe an Betrieb: Runbooks und Verantwortlichkeiten

Wähle aus 4 Terminen:

Ergebnisse filtern
Linux Administration für KI-Workloads mit GPUs Kurs
16.11. - 18.11.2026 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.490 € netto (1.773,10 € brutto)
Linux Administration für KI-Workloads mit GPUs Kurs
01.02. - 03.02.2027 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.490 € netto (1.773,10 € brutto)
Linux Administration für KI-Workloads mit GPUs Kurs
05.04. - 07.04.2027 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.490 € netto (1.773,10 € brutto)
Linux Administration für KI-Workloads mit GPUs Kurs
14.06. - 16.06.2027 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.490 € netto (1.773,10 € brutto)
  • Firmenschulung

    In einem unserer 21 Schulungszentren oder Live Online mit individuellen Inhalten

    • Passgenaue Inhalte nach deinem Bedarf
    • Individuelle Terminplanung
    • Hybride und Modulare Trainingsgestaltung
    • Kostenvorteil für dein Team
    Firmenschulung anfragen
  • Inhouseschulung

    Wir kommen zu dir ins Unternehmen und planen eure Inhouseschulung

    • Inhalte auf euch zugeschnitten
    • Termine nach euren Bedürfnissen
    • Vertraute Umgebung, kein Reiseaufwand
    Inhouseschulung anfragen
  • Offene Termine

    Du benötigst ein Angebot für unsere offenen Termine oder einer der Termine passt dir nicht? Einfach hier anfragen

    • Feste Termine, im Voraus planbar
    • An unseren 21 Standorten oder Live-Online
    • Austausch mit anderen Teilnehmenden
    • Kleine Lerngruppen von bis zu 8 Personen
    Offene Schulung anfragen

Verwandte Kurse

  • Beyond Machine Learning Kurs: Was kommt danach?

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 11.12.2026

    Weitere Kursinfos
  • Neo4j Graph-Datenbanken für KI Kurs

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 28.12.2026

    Weitere Kursinfos
  • LinkedIn Leads mit KI Kurs - Pipeline statt Posts

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 07.01.2027

    Weitere Kursinfos
  • UI/UX Design mit KI Kurs: Nutzerführung, die wirkt

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 07.12.2026

    Weitere Kursinfos
  • KI-Sicherheit in der Cloud Grundkurs

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 11.01.2027

    Weitere Kursinfos
  • KI für Datenvisualisierung und Infografiken Kurs

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 14.12.2026

    Weitere Kursinfos
  • KI in Legacy-Software Kurs: Modernisieren ohne Rebuild

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 07.12.2026

    Weitere Kursinfos
  • Google Cloud AI Kurs: Vision, Translation, Video

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 30.11.2026

    Weitere Kursinfos
eKomi Seminarbewertungen für www.kebel.de

Geprüfte Weiterbildungsqualität: eKomi Seminarbewertungen von Kebel Training

Unsere Kebel Training GmbH setzt bei der Qualitätssicherung auf unabhängige eKomi-Kundenbewertungen, um die Zufriedenheit nach jeder Schulung transparent abzubilden.

Mit über 1.800 verifizierten Bewertungen innerhalb der letzten 12 Monate gehört das Unternehmen zu den bestbewerteten Anbietern für IT-, KI- und Soft-Skills-Weiterbildungen im deutschsprachigen Raum.

Nach jedem durchgeführten Seminar erhalten alle Teilnehmenden die Einladung, das Training freiwillig und anonym über das unabhängige Bewertungsportal eKomi zu beurteilen.

Zum Bewertungsportal

Kebel Training GmbH wurde im Rahmen einer bundesweiten Kundenbefragung mit dem Award „Deutschlands Beste Business-Partner 2026“ im Bereich IT-Weiterbildung ausgezeichnet. Die Auszeichnung würdigt B2B-Unternehmen auf Grundlage der Erfahrungen und Bewertungen ihrer Kunden.

Ausgezeichnete IT-Weiterbildung: Kebel Training zählt zu „Deutschlands Beste Business-Partner 2026“

Die Kebel Training GmbH wurde im Rahmen einer bundesweiten Kundenbefragung mit dem Siegel „Deutschlands Beste Business-Partner 2026“ in der Kategorie IT-Schulungs- & Zertifizierungsanbieter ausgezeichnet. Im Ranking des DUP UNTERNEHMER-Magazins und des Deutschen Instituts für Service-Qualität (DISQ) vom 13. August 2026 erreichte das Unternehmen den 3. Platz. Die Auszeichnung basiert auf unabhängigen Kundenbewertungen und bestätigt die hohe Service- und Trainingsqualität für Geschäftskunden in ganz Deutschland. Als Weiterbildungspartner unterstützt Kebel Training Unternehmen, Fachkräfte und Teams dabei, Software-Lösungen im Arbeitsalltag effizient einzusetzen. Das Kursportfolio umfasst über 1.200 praxisorientierte Seminare und offizielle Zertifizierungen – darunter Schwerpunkte in den Bereichen:

  • Microsoft-Schulungen: Von Microsoft 365, MS-Office-Anwendungen und Power BI bis hin zu Azure Cloud, Windows Server und IT-Security.
  • KI-Schulungen: Ob Grundlagen oder vertiefende Themen – unsere KI Schulungen, z.B. in MS Copilot oder ChatGPT, unterstützen Dich dabei, künstliche Intelligenz kompetent und verantwortungsvoll in Deinem beruflichen Umfeld einzusetzen.
  • SAP-Schulungen:  Im Fokus stehen u. a. praxisnahe Szenarien aus Finance, Controlling, Logistik, Produktion, HR, Reporting und Analytics.
  • DATEV-Seminare: Gezielte Weiterbildungen für Finanzbuchhaltung, Lohnabrechnung, Jahresabschluss und digitale Kanzleiprozesse.
  • Autodesk-Trainings: Spezialisierte CAD- und BIM-Kurse z. B. in AutoCAD, Revit, Inventor und Fusion 365.
  • Soft Skills Seminare: Hierbei handelt es sich um soziale Kompetenzen bzw. soziale Intelligenz wie Teamfähigkeit, ein gutes Gedächtnis, rhetorische Fähigkeiten, Know-how im Projekt-Management und kommunikative Kompetenz.

Warum Unternehmen und Kunden auf unser Kebel Team setzen?

Die Top-Platzierung beim Business-Partner-Award 2026 spiegelt die konsequente Ausrichtung auf den Lernerfolg der Teilnehmenden wider. Kunden profitieren von klaren Qualitätsstandards:

  • 100 % Durchführungsgarantie: Viele Kurse sind mit Garantie-Terminen gekennzeichnet. Das bedeutet: Die Schulung findet unabhängig von der Teilnehmerzahl statt. Termine ohne Garantie können verschoben werden, falls die Mindestteilnehmerzahl nicht erreicht wird.
  • Kleine Lerngruppen: Mit maximal 2 bis 8 Teilnehmenden bleibt genügend Raum für individuelle Fragen und Praxisbeispiele.
  • Maximale Flexibilität: Unsere Trainings sind an 21 Standorten deutschlandweit in Präsenz, als Live-Online-Seminar, als hybride Veranstaltung oder als maßgeschneiderte Inhouse-Schulung direkt im Unternehmen vor Ort buchbar.
  • Erfahrene Trainer und Trainerinnen aus der Praxis vermitteln Wissen verständlich und direkt anwendbar.

FAQ

Du lernst, GPU-Server unter Linux für Training und Inference stabil aufzusetzen, zu validieren und im Betrieb zu überwachen. Schwerpunkte sind NVIDIA-Treiber, CUDA, Container, Ressourcen-Isolation, Performance-Tuning und Troubleshooting.

Du brauchst sichere Linux-Kenntnisse, insbesondere Shell, Systemdienste, Paketmanagement und Logs. Docker-Grundverständnis ist hilfreich, aber nicht zwingend erforderlich.

Der Kurs behandelt NVIDIA-Treiber, DKMS, Secure Boot, Kernel-Updates sowie die Kompatibilität von CUDA, cuDNN und NCCL. Außerdem lernst Du Validierung mit nvidia-smi, Persistenced und Smoke-Tests.

Behandelt werden Docker, NVIDIA Container Toolkit, GPU-Zugriff in Containern, Runtime-Konfiguration und Berechtigungen. Dazu kommen reproduzierbare Images, Base-Images, Version-Pinning und typische Fehler wie „CUDA driver too old“.

Du bekommst Grundlagen zu Multi-GPU-Topologie, PCIe, NVLink und NUMA. Zusätzlich behandelt der Kurs cgroups v2, MIG, GPU-Slicing, Ulimits, Shared Memory und Rechte im Mehrbenutzerbetrieb.

Der Kurs behandelt Storage-Pfade mit NVMe, RAID, Filesystem-Optionen und Dataset-Caching sowie Netzwerk-Themen wie MTU, Jumbo Frames, RDMA-Grundlagen und Latenz-Checks. Auch CPU-Pinning, NUMA-Affinität, IRQ-Balancing, GPU-Utilization, Temperaturen und Power-Limits sind Teil des Seminars.

Du lernst, Logs und Metriken über journald, dmesg, DCGM-Ansätze und Exporter auszuwerten. Außerdem geht es um Kernel- und Treiber-Debugging, Rollback-Strategien, Canary-Vorgehen und Wartungsfenster.

Der Kurs dauert 3 Tage. In dieser Zeit werden Setup, Container-Betrieb, Ressourcen-Steuerung, Performance, Observability und ein Referenz-Setup mit Abnahmecheck behandelt.

Ja, nach erfolgreicher Teilnahme am Linux Administration für KI-Workloads mit GPUs Kurs erhältst Du ein Teilnahmezertifikat. Dieses bestätigt Deine erweiterten Kenntnisse im professionellen Einsatz von Linux Administration für KI-Workloads mit GPUs Kurs .

Ja, wir garantieren die Durchführung aller von uns bestätigten Termine. Der Linux Administration für KI-Workloads mit GPUs Kurs findet auch bereits ab einem Teilnehmer statt, sodass Du Deine Weiterbildung sicher und zuverlässig planen kannst.

Ja, wir bieten den Linux Administration für KI-Workloads mit GPUs Kurs als Inhouse Training oder Firmenschulung an. Zusätzlich kann die Schulung auch als Online-Firmenschulung durchgeführt werden. Inhalte, Prozesse und Schwerpunkte passen wir individuell an die Anforderungen Deines Unternehmens an.

Name