Open-Source LLM Fine-Tuning für Entwickler Kurs

Von Datensatz bis Deployment: LoRA, DPO, Evaluation und sichere Inferenz in deiner Umgebung.

Open-Source LLM Fine-Tuning für Entwickler Kurs
Open-Source LLM Fine-Tuning für Entwickler Kurs

Kursbeschreibung

  • Kurs-ID:KKC_0235
  • Kursdauer:3 Tage
  • Uhrzeit:09:00 - 16:00 Uhr
Dieses Seminar richtet sich an Entwickler, die Fine-Tuning nicht als Experiment, sondern als wiederholbaren Engineering-Prozess aufziehen wollen. Du arbeitest entlang einer klaren Pipeline: Zieldefinition, Datenaufbau, Training, Evaluation, Deployment. Zuerst klärst du, welche Anpassung du wirklich brauchst: bessere Domänenantworten, weniger Halluzinationen in einem RAG-Setup, konsistentere Tool-Calls oder strengere Safety-Antworten. Daraus leitest du ab, ob PEFT genügt, welche Basismodelle geeignet sind und wie du die Infrastruktur dimensionierst. Im Datenblock lernst du, wie du Instruction- und Preference-Daten so strukturierst, dass sie trainierbar und auditierbar sind. Du setzt Qualitätschecks auf, minimierst Leakage, entfernst Duplikate und definierst Labeling-Regeln, die mehrere Personen konsistent anwenden können. Danach trainierst du mit LoRA/QLoRA, verstehst Token-Packing, Loss Masking und Stabilitätsparameter und baust reproduzierbare Runs mit Checkpoints. Für Preference Tuning setzt du DPO ein und lernst, wie du Beta und Sampling so wählst, dass das Modell nicht in einen engen Antwortstil kippt. Abschließend bringst du das Ergebnis in Produktion: Adapter-Merge, Quantisierung, Serving mit Batching und KV-Cache, Monitoring von Drift und Kosten sowie konkrete Maßnahmen gegen Prompt Injection und Secret-Leaks. So entsteht ein Fine-Tuning-Setup, das du im Team verantworten kannst.

Die wichtigsten Themen im Überblick

  • LLM Fine-Tuning nach Use Case, Daten und Compute planen
  • Llama, Mistral und Qwen nach Lizenz und Bedarf auswählen
  • Instruction-Daten mit Dedup, PII und Leakage bereinigen
  • SFT mit LoRA, QLoRA, Transformers und TRL trainieren
  • Preference Tuning mit DPO und Guardrails umsetzen
  • Modelle mit Golden Sets, LLM-Judge und RAG-Tests bewerten
  • Inferenz mit vLLM, TGI, Quantisierung und Batching deployen
  • Prompt Injection, Secrets und Datenabfluss absichern

Zielgruppe

  • Softwareentwickler und Machine-Learning-Engineers, die Open-Source LLMs anpassen
  • AI Engineers im Produktteam mit Verantwortung für Qualität und Betrieb
  • Data Scientists, die SFT und Preference Tuning umsetzen wollen
  • Plattform- und MLOps-Teams, die Serving, Monitoring und Releases absichern
  • Alle, die Fine-Tuning reproduzierbar planen, evaluieren und betreiben wollen

Voraussetzung für die Schulung

  • Solide Python-Grundlagen und Erfahrung mit CLI/Git.
  • Grundverständnis von Transformer/Tokenisierung und ML-Training (Begriffe wie Loss, Epoch, Overfitting).

Kursinhalte

  • Modell- und Trainingsstrategie festlegen
    • Use-Case-Scoping: Chat, RAG, Tool-Use, Klassifikation
    • Base Model Auswahl: Llama, Mistral, Qwen und Lizenzfallen
    • Compute-Kalkulation: VRAM, Throughput, Kosten, Zeit
    • PEFT vs. Full Fine-Tuning: wann sich was lohnt
  • Daten, die wirklich wirken
    • Instruction-Datasets: Struktur, Prompt-Formate, Systemregeln
    • Qualitätssicherung: Dedup, Leakage, Toxicity, PII
    • Labeling-Workflows: Guidelines, Inter-Annotator-Checks
    • Data Mixing: Domain, General, Safety, Hard Negatives
  • Supervised Fine-Tuning (SFT) mit PEFT
    • LoRA/QLoRA: Rank, Alpha, Target Modules
    • Tokenisierung, Packing, Sequence Length, Loss Masking
    • Training mit Hugging Face Transformers + TRL
    • Stabilität: LR-Schedules, Grad-Accumulation, Checkpoints
  • Preference Tuning: DPO statt Bauchgefühl
    • Pairwise Preferences: Datenschema und Sampling
    • DPO-Grundidee, Beta, Overfitting auf Präferenzen
    • Alternativen: ORPO, IPO, Best-of-N Sampling
    • Guardrails: Ablehnungen, Policy-Style, Safety-Prompts
  • Evaluation, die dich vor Überraschungen schützt
    • Offline-Eval: Task-Suites, Regression Tests, Golden Sets
    • LLM-as-a-Judge: Bias, Kalibrierung, Gegenchecks
    • Halluzinationsmessung in RAG-Setups
    • Monitoring-Metriken: Drift, Cost per Answer, Latency
  • Deployment & Betrieb
    • Export: Adapter-Merge, Quantisierung (GPTQ/AWQ)
    • Serving: vLLM/TGI, Batching, KV-Cache, Streaming
    • Security: Prompt Injection, Data Exfiltration, Secrets
    • Release-Prozess: Modellkarten, Versionierung, Rollback

Wähle aus 4 Terminen:

Ergebnisse filtern
Open-Source LLM Fine-Tuning für Entwickler Kurs
14.12. - 16.12.2026 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.490 € netto (1.773,10 € brutto)

Datum und Uhrzeit

14.12. - 16.12.2026
09:00 - 16:00 Uhr

Open-Source LLM Fine-Tuning für Entwickler Kurs
15.02. - 17.02.2027 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.490 € netto (1.773,10 € brutto)

Datum und Uhrzeit

15.02. - 17.02.2027
09:00 - 16:00 Uhr

Open-Source LLM Fine-Tuning für Entwickler Kurs
19.04. - 21.04.2027 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.490 € netto (1.773,10 € brutto)

Datum und Uhrzeit

19.04. - 21.04.2027
09:00 - 16:00 Uhr

Open-Source LLM Fine-Tuning für Entwickler Kurs
07.06. - 09.06.2027 Live Online Plätze frei Wenige Plätze Nicht buchbar
1.490 € netto (1.773,10 € brutto)

Datum und Uhrzeit

07.06. - 09.06.2027
09:00 - 16:00 Uhr

  • Firmenschulung

    In einem unserer 21 Schulungszentren oder Live Online mit individuellen Inhalten

    • Passgenaue Inhalte nach deinem Bedarf
    • Individuelle Terminplanung
    • Hybride und Modulare Trainingsgestaltung
    • Kostenvorteil für dein Team
    Firmenschulung anfragen
  • Inhouseschulung

    Wir kommen zu dir ins Unternehmen und planen eure Inhouseschulung

    • Inhalte auf euch zugeschnitten
    • Termine nach euren Bedürfnissen
    • Vertraute Umgebung, kein Reiseaufwand
    Inhouseschulung anfragen
  • Offene Termine

    Du benötigst ein Angebot für unsere offenen Termine oder einer der Termine passt dir nicht? Einfach hier anfragen

    • Feste Termine, im Voraus planbar
    • An unseren 21 Standorten oder Live-Online
    • Austausch mit anderen Teilnehmenden
    • Kleine Lerngruppen von bis zu 8 Personen
    Offene Schulung anfragen

Verwandte Kurse

  • MiniMax 2.7 Kurs: Das sich selbst-entwickelende Open-Source Model

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 07.12.2026

    Weitere Kursinfos
  • Open-Source-LLMs lokal betreiben: Grundkurs

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 07.12.2026

    Weitere Kursinfos
  • GLM-5.1 Kurs: Open Source LLM produktiv nutzen

    Nächste und weitere Termine:
    In Präsenz: auf Anfrage
    Live Online: 30.11.2026

    Weitere Kursinfos
eKomi Seminarbewertungen für www.kebel.de

Geprüfte Weiterbildungsqualität: eKomi Seminarbewertungen von Kebel Training

Unsere Kebel Training GmbH setzt bei der Qualitätssicherung auf unabhängige eKomi-Kundenbewertungen, um die Zufriedenheit nach jeder Schulung transparent abzubilden.

Mit über 1.800 verifizierten Bewertungen innerhalb der letzten 12 Monate gehört das Unternehmen zu den bestbewerteten Anbietern für IT-, KI- und Soft-Skills-Weiterbildungen im deutschsprachigen Raum.

Nach jedem durchgeführten Seminar erhalten alle Teilnehmenden die Einladung, das Training freiwillig und anonym über das unabhängige Bewertungsportal eKomi zu beurteilen.

Zum Bewertungsportal

Kebel Training GmbH wurde im Rahmen einer bundesweiten Kundenbefragung mit dem Award „Deutschlands Beste Business-Partner 2026“ im Bereich IT-Weiterbildung ausgezeichnet. Die Auszeichnung würdigt B2B-Unternehmen auf Grundlage der Erfahrungen und Bewertungen ihrer Kunden.

Ausgezeichnete IT-Weiterbildung: Kebel Training zählt zu „Deutschlands Beste Business-Partner 2026“

Die Kebel Training GmbH wurde im Rahmen einer bundesweiten Kundenbefragung mit dem Siegel „Deutschlands Beste Business-Partner 2026“ in der Kategorie IT-Schulungs- & Zertifizierungsanbieter ausgezeichnet. Im Ranking des DUP UNTERNEHMER-Magazins und des Deutschen Instituts für Service-Qualität (DISQ) vom 13. August 2026 erreichte das Unternehmen den 3. Platz. Die Auszeichnung basiert auf unabhängigen Kundenbewertungen und bestätigt die hohe Service- und Trainingsqualität für Geschäftskunden in ganz Deutschland. Als Weiterbildungspartner unterstützt Kebel Training Unternehmen, Fachkräfte und Teams dabei, Software-Lösungen im Arbeitsalltag effizient einzusetzen. Das Kursportfolio umfasst über 1.200 praxisorientierte Seminare und offizielle Zertifizierungen – darunter Schwerpunkte in den Bereichen:

  • Microsoft-Schulungen: Von Microsoft 365, Office-Anwendungen und Power BI bis hin zu Azure Cloud, Windows Server und IT-Security.
  • KI-Schulungen: Ob Grundlagen oder vertiefende Themen – unsere KI Schulungen unterstützen Dich dabei, KI kompetent und verantwortungsvoll in Deinem beruflichen Umfeld einzusetzen.
  • SAP-Schulungen:  Im Fokus stehen u. a. praxisnahe Szenarien aus Finance, Controlling, Logistik, Produktion, HR, Reporting und Analytics.
  • DATEV-Seminare: Gezielte Weiterbildungen für Finanzbuchhaltung, Lohnabrechnung, Jahresabschluss und digitale Kanzleiprozesse.
  • Autodesk-Trainings: Spezialisierte CAD- und BIM-Kurse für AutoCAD, Revit, Inventor und Fusion 365.
  • Soft Skills Seminare: Hierbei handelt es sich um soziale Kompetenzen bzw. soziale Intelligenz wie Teamfähigkeit, ein gutes Gedächtnis, rhetorische Fähigkeiten, Know-how im Projekt-Management und kommunikative Kompetenz.

Warum Unternehmen und Kunden auf unser Kebel Team setzen?

Die Top-Platzierung beim Business-Partner-Award 2026 spiegelt die konsequente Ausrichtung auf den Lernerfolg der Teilnehmenden wider. Kunden profitieren von klaren Qualitätsstandards:

  • 100 % Durchführungsgarantie: Jedes Seminar findet garantiert statt – bereits ab 1 angemeldeten Person.
  • Kleine Lerngruppen: Mit maximal 2 bis 8 Teilnehmenden bleibt genügend Raum für individuelle Fragen und Praxisbeispiele.
  • Maximale Flexibilität: Alle Trainings sind an 21 Standorten deutschlandweit, als Live-Online-Seminar oder als maßgeschneiderte Inhouse-Schulung direkt im Unternehmen buchbar.
  • Erfahrene Trainer und Trainerinnen aus der Praxis vermitteln Wissen verständlich und direkt anwendbar.

FAQ

Der Kurs richtet sich an Entwicklerinnen und Entwickler, die Open-Source-LLMs für Chat, RAG, Tool-Use oder Klassifikation gezielt anpassen wollen. Der Fokus liegt auf Modell-Auswahl, Datenqualität, Training, Evaluation und Betrieb.

Du brauchst solide Python-Grundlagen sowie Erfahrung mit CLI und Git. Zusätzlich solltest Du Begriffe aus Transformer-Modellen, Tokenisierung und ML-Training wie Loss, Epoch und Overfitting einordnen.

Du lernst, Base-Models wie Llama, Mistral und Qwen anhand von Use-Case, Lizenz, VRAM-Bedarf, Throughput, Kosten und Trainingszeit zu bewerten. Dabei wird auch geklärt, wann PEFT statt Full-Fine-Tuning sinnvoll ist.

Der Kurs behandelt SFT mit PEFT, LoRA und QLoRA inklusive Rank, Alpha, Target-Modules, Tokenisierung, Packing, Sequence-Length und Loss-Masking. Training mit Hugging-Face-Transformers und TRL ist Teil der Inhalte.

Du lernst, Instruction-Datasets zu strukturieren und Prompt-Formate, Systemregeln sowie Data-Mixing sinnvoll zu planen. Qualitätssicherung umfasst Dedup, Leakage-Prüfung, Toxicity, PII und Labeling-Workflows.

Der Kurs erklärt DPO anhand von Pairwise-Preferences, Datenschema, Sampling, Beta und Overfitting auf Präferenzen. Zusätzlich werden Alternativen wie ORPO, IPO und Best-of-N-Sampling sowie Guardrails behandelt.

Du lernst Offline-Evaluation mit Task-Suites, Regression-Tests und Golden-Sets kennen. Für RAG-Setups werden Halluzinationsmessung, LLM-as-a-Judge, Bias, Kalibrierung und Monitoring-Metriken betrachtet.

Der Kurs dauert 3 Tage. In dieser Zeit werden Strategie, Datenaufbereitung, SFT, Preference-Tuning, Evaluation sowie Deployment und Betrieb behandelt.

Ja, nach erfolgreicher Teilnahme am Open-Source LLM Fine-Tuning für Entwickler Kurs erhältst Du ein Teilnahmezertifikat. Dieses bestätigt Deine erweiterten Kenntnisse im professionellen Einsatz von Open-Source LLM Fine-Tuning für Entwickler Kurs .

Ja, wir garantieren die Durchführung aller von uns bestätigten Termine. Der Open-Source LLM Fine-Tuning für Entwickler Kurs findet auch bereits ab einem Teilnehmer statt, sodass Du Deine Weiterbildung sicher und zuverlässig planen kannst.

Ja, wir bieten den Open-Source LLM Fine-Tuning für Entwickler Kurs als Inhouse Training oder Firmenschulung an. Zusätzlich kann die Schulung auch als Online-Firmenschulung durchgeführt werden. Inhalte, Prozesse und Schwerpunkte passen wir individuell an die Anforderungen Deines Unternehmens an.

Name