Kursbeschreibung
Das NVIDIA LLM-Entwicklung Seminar führt dich von den Grundlagen moderner Sprachmodelle bis zum Aufbau zustandsbasierter Anwendungen mit Retrieval-Augmented Generation. Du vergleichst Encoder-, Decoder- und Encoder-Decoder-Architekturen und wählst vortrainierte Modelle von Hugging Face für Klassifikation, Textanalyse, Frage-Antwort-Systeme oder generative Aufgaben aus. So erkennst du früh, wann ein spezialisiertes Modell genügt und wann eine generative Architektur den besseren Lösungsweg bietet.
Die praktischen Übungen finden in einer bereitgestellten Entwicklungsumgebung statt. Du untersuchst Modellverhalten, verarbeitest Texteingaben und bindest externe Wissensquellen als Kontext ein. Du betrachtest Modellgröße, Laufzeit, Kosten und Antwortqualität gemeinsam. So beruht der funktionierende Prototyp auf technisch begründeten Entscheidungen. Das eintägige Training gehört zu den KI-Schulungen für Entwickler und Administratoren. Für die anschließende Vertiefung der Eingabesteuerung eignet sich der Prompt-Engineering-Grundkurs.
Kebel Training arbeitet mit kleinen Gruppen von zwei bis acht Personen und Trainerinnen und Trainern aus der Praxis. Prüfe die verfügbaren Termine und buche den passenden Termin für dein LLM-Projekt.
Die wichtigsten Themen im Überblick
- LLM-Prototypen entwickeln
- HuggingFace-Modelle auswählen
- Transformer-Architekturen vergleichen
- Externe Wissensquellen anbinden
- RAG-Anwendungen konzipieren
Zielgruppe
- Softwareentwickler mit geplanten LLM-Funktionen
- Data Scientists und Machine-Learning-Engineers mit NLP-Bezug
- Solution Architects für KI-gestützte Anwendungen
- Mitglieder technischer Projektteams, die einen LLM-Prototyp bewerten
Voraussetzung für die Schulung
- Grundlegende Programmierkenntnisse, idealerweise in Python
- Basiswissen zu Machine Learning oder neuronalen Netzen
- Grundverständnis für Datenverarbeitung, APIs und Entwicklungsworkflows
- Bei wenig Vorerfahrung: PyTorch-Grundkurs für Deep Learning
- Alternativ: Data-Mining-Einführungskurs
Kursinhalte
Entwicklungsumgebung und LLM-Anwendungsfälle
- Einrichtung der bereitgestellten Entwicklungsumgebung
- Konto für die praktischen Übungen
- Chatbots und Assistenzfunktionen
- Textanalyse und Frage-Antwort-Systeme
Vom Deep Learning zum Sprachmodell
- Deep-Learning-Grundlagen der Sprachmodellierung
- Klassenbasiertes Denken für NLP-Aufgaben
- Aufbau großer Sprachmodelle
- Grundprinzipien der Transformer-Architektur
- Skalierung und Anpassung von Modellen
- Modellgröße, Trainingsaufwand und Nutzbarkeit
Encoder-Modelle mit Hugging Face
- Vortrainierte und feinabgestimmte Modelle
- Modellauswahl für konkrete NLP-Aufgaben
- Token-Klassifizierung einzelner Textelemente
- Sequenz-Klassifizierung vollständiger Texte
- Spannenextraktion für Frage-Antwort-Anwendungen
- Zero-Shot-Klassifizierung ohne eigene Labels
- Semantische Analyse und Text-Einbettungen
Encoder-Decoder-Modelle und Seq2Seq
- Generierung variabler Ausgabesequenzen
- Autoregressive Decoder-Komponenten
- Cross-Attention zwischen Eingabe und Ausgabe
- Sequence-as-Context-Prinzip
- Multitasking mit Seq2Seq-Modellen
- Zero-Shot-Reasoning für neue Aufgaben
- Grundlagen multimodaler Sequenzmodelle
Decoder-Modelle für Textgenerierung
- GPT-ähnliche Modellarchitekturen
- Abgrenzung der drei Modellklassen
- Herausforderungen generativer Modelle
- Qualität, Kosten und Laufzeit
- Code-Erstellung und Freitextantworten
- Dialogsysteme mit großen Sprachmodellen
Zustand und Retrieval-Augmented Generation
- Kontext und Gesprächsverlauf
- History- und Zustandsmanagement
- Einbindung externer Wissensquellen
- Retrieval-Augmented Generation
- Kontextsensitives Anwendungsdesign
- Datenqualität externer Wissensbestände
- Kontrollierbare und nachvollziehbare Antworten
