vLLM-Schulung: LLM-Inferenz performant betreiben

Bringe Open-Source-LLMs vom GPU-Test zu einem vLLM-Endpunkt mit dokumentierten Messwerten

vLLM-Schulung: LLM-Inferenz performant betreiben
vLLM-Schulung: LLM-Inferenz performant betreiben

Kursbeschreibung

  • Kurs-ID:VLLM-SRV
  • Kursdauer:3 Tage
  • Uhrzeit:09:00 - 16:00 Uhr

Die vLLM-Schulung führt ein GPU-basiertes LLM-Deployment bis zu einem getesteten Serving-Endpunkt. Du installierst vLLM in einer isolierten Linux-Umgebung, stellst ein Open-Source-Modell über den vLLM-Server bereit und prüfst die OpenAI-kompatible API mit Chat-Completions und Streaming. Das Ergebnis ist kein reiner Prototyp: Am Ende stehen gemessene Werte für Durchsatz, Time to First Token, Token-Latenz und VRAM-Auslastung sowie dokumentierte Startparameter für ein definiertes Lastprofil.

An drei Tagen untersuchst du, wie Continuous Batching, KV-Cache und PagedAttention das Serving-Verhalten beeinflussen. Lasttests zeigen, wie sich parallele Requests und lange Kontexte auf Antwortzeit und GPU-Speicher auswirken. Bei der Quantisierung vergleichst du Modellvarianten anhand ihres Speicherbedarfs, ihres Antwortverhaltens und des nötigen Prüfaufwands. Aus der Modellgröße, der Kontextlänge und der Ziellatenz leitest du anschließend ein begründetes GPU-Sizing ab.

Monitoring gehört zum Deployment. Prometheus-Metriken, die GPU-Auslastung und Server-Logs zeigen, wann ein Endpunkt an seine Grenzen stößt. Auch Fehlerraten und Health-Checks weisen auf diese Grenzen hin. In der kleinen Gruppe von 2 bis 8 Personen kannst du Konfigurationen nachvollziehen, Messwerte vergleichen und Fehler systematisch untersuchen. Weitere technische KI-Themen findest du bei den KI-Schulungen für Entwickler und Administratoren. Als Anwendungsschicht für den bereitgestellten Endpunkt eignet sich anschließend die Open-WebUI-Schulung für Self-Hosted-KI. Frag den passenden Termin für dich oder dein Team an und nenne dabei Modell, GPU-Umgebung und gewünschtes Lastprofil.

Die wichtigsten Themen im Überblick

  • vLLM-Endpunkt selbst bereitstellen
  • Latenz und Durchsatz messen
  • VRAM-Bedarf dokumentieren
  • GPU-Sizing aus Lastprofilen ableiten
  • Serving mit Metriken überwachen
  • Parallelisierung und Batch-Verarbeitung einsetzen
  • Deployment in Cloud- und On-Premises-Umgebungen
  • Best Practices für den produktiven Betrieb

Zielgruppe

  • KI- und Machine-Learning-Engineers
  • Data Scientists
  • MLOps-Engineers
  • DevOps-Engineers
  • Softwareentwicklerinnen und Softwareentwickler
  • Plattform- und Infrastrukturverantwortliche
  • Technische Projektleitungen im KI-Umfeld
  • IT-Architektinnen und IT-Architekten

Voraussetzung für die Schulung

  • Sicherer Umgang mit Linux-Shell und HTTP-APIs
  • Grundkenntnisse in Python und Container-Technik
  • Grundverständnis von LLMs und Kontextlängen
  • Kenntnisse über GPU-Ressourcen, VRAM und CUDA
  • Bei fehlender GPU-Erfahrung empfiehlt sich die Linux-Administration für KI-Workloads mit GPUs

Kursinhalte

Grundlagen von vLLM

  • Einordnung von vLLM im LLM-Ökosystem
  • Architektur und Komponenten
  • Vorteile gegenüber klassischen Inferenzlösungen
  • Unterstützte Modelltypen und Frameworks
  • Einsatzszenarien in Unternehmen

Installation und Inbetriebnahme

  • Aufbau einer geeigneten Laufzeitumgebung
  • Installation und Konfiguration
  • Anbindung von Modellen
  • Starten und Verwalten von Inferenzdiensten
  • Erste Tests und Validierung

Performance-Optimierung

  • Funktionsweise von Paged Attention
  • Speicheroptimierung für große Modelle
  • GPU-Auslastung verbessern
  • Batch-Verarbeitung effizient einsetzen
  • Analyse von Latenz und Durchsatz

APIs und Deployment

  • Bereitstellung kompatibler Inferenzschnittstellen
  • Integration in bestehende Anwendungen
  • Containerisierung und Deployment
  • Cloud- und On-Premises-Szenarien
  • Hochverfügbarkeit und Skalierung

Betrieb und Monitoring

  • Überwachung von Inferenzsystemen
  • Protokollierung und Fehleranalyse
  • Ressourcenmanagement
  • Kapazitätsplanung
  • Wartung produktiver Systeme

Best Practices für produktive LLM-Plattformen

  • Sicherheitsaspekte beim Modellbetrieb
  • Wirtschaftliche Nutzung von GPU-Ressourcen
  • Auswahl geeigneter Modelle
  • Skalierungsstrategien für wachsende Lasten
  • Praxisnahe Architektur- und Betriebsempfehlungen

Wähle aus 12 Terminen an 2 Standorten:

Ergebnisse filtern
vLLM-Schulung: LLM-Inferenz performant betreiben
11.01. - 13.01.2027 Dortmund Plätze frei Wenige Plätze Nicht buchbar
1.790 € netto (2.130,10 € brutto)

Veranstaltungsort

Europaplatz 11, 44269 Dortmund

Datum und Uhrzeit

11.01. - 13.01.2027
09:00 - 16:00 Uhr

vLLM-Schulung: LLM-Inferenz performant betreiben
11.01. - 13.01.2027 München Plätze frei Wenige Plätze Nicht buchbar
1.790 € netto (2.130,10 € brutto)

Veranstaltungsort

Elektrastr. 6a, 81925 München

Datum und Uhrzeit

11.01. - 13.01.2027
09:00 - 16:00 Uhr

vLLM-Schulung: LLM-Inferenz performant betreiben
11.01. - 13.01.2027 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.790 € netto (2.130,10 € brutto)

Datum und Uhrzeit

11.01. - 13.01.2027
09:00 - 16:00 Uhr

vLLM-Schulung: LLM-Inferenz performant betreiben
05.04. - 07.04.2027 Dortmund Plätze frei Wenige Plätze Nicht buchbar
1.790 € netto (2.130,10 € brutto)

Veranstaltungsort

Europaplatz 11, 44269 Dortmund

Datum und Uhrzeit

05.04. - 07.04.2027
09:00 - 16:00 Uhr

vLLM-Schulung: LLM-Inferenz performant betreiben
05.04. - 07.04.2027 München Plätze frei Wenige Plätze Nicht buchbar
1.790 € netto (2.130,10 € brutto)

Veranstaltungsort

Elektrastr. 6a, 81925 München

Datum und Uhrzeit

05.04. - 07.04.2027
09:00 - 16:00 Uhr

vLLM-Schulung: LLM-Inferenz performant betreiben
05.04. - 07.04.2027 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.790 € netto (2.130,10 € brutto)

Datum und Uhrzeit

05.04. - 07.04.2027
09:00 - 16:00 Uhr

vLLM-Schulung: LLM-Inferenz performant betreiben
05.07. - 07.07.2027 Dortmund Plätze frei Wenige Plätze Nicht buchbar
1.790 € netto (2.130,10 € brutto)

Veranstaltungsort

Europaplatz 11, 44269 Dortmund

Datum und Uhrzeit

05.07. - 07.07.2027
09:00 - 16:00 Uhr

vLLM-Schulung: LLM-Inferenz performant betreiben
05.07. - 07.07.2027 München Plätze frei Wenige Plätze Nicht buchbar
1.790 € netto (2.130,10 € brutto)

Veranstaltungsort

Elektrastr. 6a, 81925 München

Datum und Uhrzeit

05.07. - 07.07.2027
09:00 - 16:00 Uhr

vLLM-Schulung: LLM-Inferenz performant betreiben
05.07. - 07.07.2027 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.790 € netto (2.130,10 € brutto)

Datum und Uhrzeit

05.07. - 07.07.2027
09:00 - 16:00 Uhr

vLLM-Schulung: LLM-Inferenz performant betreiben
20.09. - 22.09.2027 Dortmund Plätze frei Wenige Plätze Nicht buchbar
1.790 € netto (2.130,10 € brutto)

Veranstaltungsort

Europaplatz 11, 44269 Dortmund

Datum und Uhrzeit

20.09. - 22.09.2027
09:00 - 16:00 Uhr

  • Firmenschulung

    In einem unserer 21 Schulungszentren oder Live Online mit individuellen Inhalten

    • Passgenaue Inhalte nach deinem Bedarf
    • Individuelle Terminplanung
    • Hybride und Modulare Trainingsgestaltung
    • Kostenvorteil für dein Team
    Firmenschulung anfragen
  • Inhouseschulung

    Wir kommen zu dir ins Unternehmen und planen eure Inhouseschulung

    • Inhalte auf euch zugeschnitten
    • Termine nach euren Bedürfnissen
    • Vertraute Umgebung, kein Reiseaufwand
    Inhouseschulung anfragen
  • Offene Termine

    Du benötigst ein Angebot für unsere offenen Termine oder einer der Termine passt dir nicht? Einfach hier anfragen

    • Feste Termine, im Voraus planbar
    • An unseren 21 Standorten oder Live-Online
    • Austausch mit anderen Teilnehmenden
    • Kleine Lerngruppen von bis zu 8 Personen
    Offene Schulung anfragen

Verwandte Kurse

  • GLM-5.1 Kurs: Open Source LLM produktiv nutzen

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 30.11.2026

    Weitere Kursinfos
  • LLM Security Kurs: Injections erkennen und abwehren

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 10.12.2026

    Weitere Kursinfos
  • OpenClaw Grundkurs: Sicher betreiben und täglich nutzen

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 04.02.2027

    Weitere Kursinfos
  • Kimi K2.5 Kurs: OpenSource LLM sofort produktiv

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 14.12.2026

    Weitere Kursinfos
  • LLM-Evaluation: Evaluation. Praxis. Sicherheit

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 18.02.2027

    Weitere Kursinfos
  • Mistral-KI Training: Europas LLM-Stack im Einsatz

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 23.11.2026

    Weitere Kursinfos
  • Agentic AI betreiben: Architektur. Sicherheit. Betrieb.

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 11.01.2027

    Weitere Kursinfos
  • MCP-Training: Server sicher entwickeln und betreiben

    Nächste und weitere Termine:
    In Präsenz: 07.12.2026
    Live Online: 07.12.2026

    Weitere Kursinfos
eKomi Seminarbewertungen für www.kebel.de

Geprüfte Weiterbildungsqualität: eKomi Seminarbewertungen von Kebel Training

Unsere Kebel Training GmbH setzt bei der Qualitätssicherung auf unabhängige eKomi-Kundenbewertungen, um die Zufriedenheit nach jeder Schulung transparent abzubilden.

Mit über 1.800 verifizierten Bewertungen innerhalb der letzten 12 Monate gehört das Unternehmen zu den bestbewerteten Anbietern für IT-, KI- und Soft-Skills-Weiterbildungen im deutschsprachigen Raum.

Nach jedem durchgeführten Seminar erhalten alle Teilnehmenden die Einladung, das Training freiwillig und anonym über das unabhängige Bewertungsportal eKomi zu beurteilen.

Zum Bewertungsportal

Kebel Training GmbH wurde im Rahmen einer bundesweiten Kundenbefragung mit dem Award „Deutschlands Beste Business-Partner 2026“ im Bereich IT-Weiterbildung ausgezeichnet. Die Auszeichnung würdigt B2B-Unternehmen auf Grundlage der Erfahrungen und Bewertungen ihrer Kunden.

Ausgezeichnete IT-Weiterbildung: Kebel Training zählt zu „Deutschlands Beste Business-Partner 2026“

Die Kebel Training GmbH wurde im Rahmen einer bundesweiten Kundenbefragung mit dem Siegel „Deutschlands Beste Business-Partner 2026“ in der Kategorie IT-Schulungs- & Zertifizierungsanbieter ausgezeichnet. Im Ranking des DUP UNTERNEHMER-Magazins und des Deutschen Instituts für Service-Qualität (DISQ) vom 13. August 2026 erreichte das Unternehmen den 3. Platz. Die Auszeichnung basiert auf unabhängigen Kundenbewertungen und bestätigt die hohe Service- und Trainingsqualität für Geschäftskunden in ganz Deutschland. Als Weiterbildungspartner unterstützt Kebel Training Unternehmen, Fachkräfte und Teams dabei, Software-Lösungen im Arbeitsalltag effizient einzusetzen. Das Kursportfolio umfasst über 1.200 praxisorientierte Seminare und offizielle Zertifizierungen – darunter Schwerpunkte in den Bereichen:

  • Microsoft-Schulungen: Von Microsoft 365, MS-Office-Anwendungen und Power BI bis hin zu Azure Cloud, Windows Server und IT-Security.
  • KI-Schulungen: Ob Grundlagen oder vertiefende Themen – unsere KI Schulungen, z.B. in MS Copilot oder ChatGPT, unterstützen Dich dabei, künstliche Intelligenz kompetent und verantwortungsvoll in Deinem beruflichen Umfeld einzusetzen.
  • SAP-Schulungen:  Im Fokus stehen u. a. praxisnahe Szenarien aus Finance, Controlling, Logistik, Produktion, HR, Reporting und Analytics.
  • DATEV-Seminare: Gezielte Weiterbildungen für Finanzbuchhaltung, Lohnabrechnung, Jahresabschluss und digitale Kanzleiprozesse.
  • Autodesk-Trainings: Spezialisierte CAD- und BIM-Kurse z. B. in AutoCAD, Revit, Inventor und Fusion 365.
  • Soft Skills Seminare: Hierbei handelt es sich um soziale Kompetenzen bzw. soziale Intelligenz wie Teamfähigkeit, ein gutes Gedächtnis, rhetorische Fähigkeiten, Know-how im Projekt-Management und kommunikative Kompetenz.

Warum Unternehmen und Kunden auf unser Kebel Team setzen?

Die Top-Platzierung beim Business-Partner-Award 2026 spiegelt die konsequente Ausrichtung auf den Lernerfolg der Teilnehmenden wider. Kunden profitieren von klaren Qualitätsstandards:

  • 100 % Durchführungsgarantie: Viele Kurse sind mit Garantie-Terminen gekennzeichnet. Das bedeutet: Die Schulung findet unabhängig von der Teilnehmerzahl statt. Termine ohne Garantie können verschoben werden, falls die Mindestteilnehmerzahl nicht erreicht wird.
  • Kleine Lerngruppen: Mit maximal 2 bis 8 Teilnehmenden bleibt genügend Raum für individuelle Fragen und Praxisbeispiele.
  • Maximale Flexibilität: Unsere Trainings sind an 21 Standorten deutschlandweit in Präsenz, als Live-Online-Seminar, als hybride Veranstaltung oder als maßgeschneiderte Inhouse-Schulung direkt im Unternehmen vor Ort buchbar.
  • Erfahrene Trainer und Trainerinnen aus der Praxis vermitteln Wissen verständlich und direkt anwendbar.

FAQ

vLLM ist eine Serving-Engine für die Inferenz großer Sprachmodelle. Sie stellt Modelle über APIs bereit und verwaltet GPU-Speicher sowie parallele Anfragen. PagedAttention, KV-Cache und Continuous Batching beeinflussen dabei, wie viele Requests verarbeitet werden und wie sich Latenz und Durchsatz entwickeln.

vLLM eignet sich, wenn ein kompatibles Open-Source-Modell über einen eigenen API-Endpunkt auf GPU-Infrastruktur bereitgestellt werden soll. Besonders relevant ist die Engine bei parallelen Requests, langen Kontexten und Anforderungen an messbaren Durchsatz.

Die benötigte GPU hängt von der Modellgröße, dem Präzisionsformat, der Kontextlänge und der Zahl paralleler Requests ab. In der Schulung leitest du den VRAM-Bedarf aus einem definierten Lastprofil ab, statt eine GPU allein anhand der Modellbezeichnung auszuwählen.

Verwendet wird ein für vLLM geeignetes Open-Source-Modell, an dem Installation, API-Serving, Quantisierung und Lasttests nachvollzogen werden. Die konkrete Modellwahl kann von der verfügbaren Laborumgebung und dem vorgesehenen GPU-Profil abhängen.

Du solltest sicher mit der Linux-Shell und HTTP-APIs umgehen sowie LLMs, Container und GPU-Ressourcen grundsätzlich verstehen. Python-Grundkenntnisse erleichtern die Client-Tests und die Auswertung der Messwerte.

Du erhältst nach der Schulung ein Zertifikat von Kebel Training als Nachweis deiner Weiterbildung. Es dokumentiert die behandelten Inhalte, ist jedoch keine offizielle Herstellerzertifizierung von vLLM.

Ob eine Inhouse-Durchführung möglich ist, klären wir anhand eurer GPU-Infrastruktur, Modellwahl und gewünschten Deployment-Umgebung. Nenne diese Eckdaten bei der Anfrage, damit der technische Zuschnitt vorab geprüft werden kann.

Ja, nach erfolgreicher Teilnahme am vLLM-Schulung: LLM-Inferenz performant betreiben erhältst Du ein Teilnahmezertifikat. Dieses bestätigt Deine erweiterten Kenntnisse im professionellen Einsatz von vLLM-Schulung: LLM-Inferenz performant betreiben .

Ja, wir garantieren die Durchführung aller von uns bestätigten Termine. Der vLLM-Schulung: LLM-Inferenz performant betreiben findet auch bereits ab einem Teilnehmer statt, sodass Du Deine Weiterbildung sicher und zuverlässig planen kannst.

Ja, wir bieten den vLLM-Schulung: LLM-Inferenz performant betreiben als Inhouse Training oder Firmenschulung an. Zusätzlich kann die Schulung auch als Online-Firmenschulung durchgeführt werden. Inhalte, Prozesse und Schwerpunkte passen wir individuell an die Anforderungen Deines Unternehmens an.

Name