Kursbeschreibung
In diesem Seminar setzt du DeepSeek 3.2 so auf, dass es als interner Service nutzbar wird: planbar, sicher und betreibbar. Du startest mit einer nüchternen Einordnung des Modells: Welche Aufgaben passen, wo sind Fehlerquellen, und wie entstehen Halluzinationen oder unerwünschte Offenlegungen. Daraus leitest du ab, welche Leitplanken du für den Einsatz brauchst, zum Beispiel Regeln für sensible Inhalte, Umgang mit Quellen und klare Verantwortlichkeiten. Danach gehst du in die Architektur. Du vergleichst Self-Hosting-Optionen wie On-Premises, Private Cloud und Hybrid und lernst, wie du Infrastruktur realistisch dimensionierst. Dabei betrachtest du GPU- und Speicherbedarf, Storage-Performance, Netzwerkpfade und den Unterschied zwischen Test- und Produktionsumgebung. Im technischen Aufbau setzt du einen Inferenz-Stack auf, stellst einen API-Zugriff bereit und organisierst Modellversionen so, dass Updates kontrolliert ablaufen und Rollbacks möglich sind. Du lernst, wie Kontextlänge, Sampling und Rate Limits die Nutzererfahrung beeinflussen und wie du Fehlkonfigurationen früh erkennst. Für den Betrieb etablierst du Monitoring und Kostenkontrolle über Kennzahlen wie Latenz, Durchsatz und Auslastung, ergänzt durch Quotas, Caching und Kapazitätsplanung. Ein zentraler Block behandelt Sicherheit und Governance: Authentifizierung, Autorisierung, Mandantenfähigkeit sowie Logging- und Audit-Strategien. Zum Abschluss setzt du die Grundlagen von RAG um, um Unternehmenswissen über Dokument-Ingestion, Chunking, Embeddings und Retriever-Optimierung verfügbar zu machen, inklusive Qualitätstests und Feedback-Loops. So kannst du DeepSeek 3.2 zuverlässig bereitstellen und verantwortungsvoll nutzen.
Die wichtigsten Themen im Überblick
- DeepSeek 3.2 sicher einordnen und Use Cases bewerten
- Self-Hosting für On-Premises, Private Cloud und Hybrid planen
- GPU, CPU, RAM und Storage realistisch dimensionieren
- Runtime, Model-Serving und API-Zugriff produktiv aufsetzen
- Daten mit Zugriffskontrolle und Governance schützen
- RAG mit Embeddings, Re-Ranking und Quellenangaben umsetzen
- Latenz, Durchsatz und Auslastung im Betrieb überwachen
- Kosten mit Quotas, Caching und Kapazitätsplanung steuern
Zielgruppe
- IT-Administratoren und Plattform-Engineers
- DevOps- und SRE-Fachkräfte
- IT-Sicherheitsverantwortliche und Datenschutzbeauftragte
- Softwarearchitekten und technische Projektleitungen
- Alle, die DeepSeek 3.2 kontrolliert self-hosting und im Unternehmen nutzbar machen wollen
Voraussetzung für die Schulung
- Grundverständnis von Linux, Netzwerk und Container- oder VM-Betrieb
- Erste Berührung mit APIs oder Webservices ist hilfreich
Kursinhalte
- DeepSeek 3.2 verstehen und einordnen
- Modelle, Varianten, Stärken und Grenzen
- Typische Use Cases: Assistenz, Recherche, Code, RAG
- Qualität, Halluzinationen, Sicherheitsrisiken
- Self-Hosting Architektur und Betriebsmodelle
- On-Premises, Private Cloud, Hybrid: Entscheidungskriterien
- GPU, CPU, RAM, Storage: realistische Dimensionierung
- Container- und VM-Ansätze, Netzwerk und Zugriff
- Deployment: Inferenz-Stack aufsetzen
- Runtime, Model-Serving und API-Zugriff
- Modell-Download, Versionierung, Rollback-Strategien
- Basis-Tuning: Kontextlänge, Sampling, Rate Limits
- Sicherheit, Datenschutz und Governance
- Authentifizierung, Autorisierung, Mandantenfähigkeit
- Prompt- und Data-Leakage vermeiden, Logging-Strategie
- Richtlinien für Nutzung, Freigaben und Audit
- RAG-Grundlagen für Unternehmenswissen
- Dokumente ingestieren, Chunking, Embeddings
- Retriever, Top-k, Re-Ranking und Quellenangaben
- Qualität messen: Tests, Goldensets, Feedback-Loops
- Betrieb, Monitoring und Kostenkontrolle
- Performance-Kennzahlen: Latenz, Durchsatz, Auslastung
- Kapazitätsplanung, Quotas, Caching
- Fehlerbilder: OOM, Timeouts, Drift, Modellwechsel
