Kursbeschreibung
Dieses Advanced-Seminar ist für Entwicklerinnen und Entwickler gedacht, die bereits sicher in Python sind und KI-Funktionen als echte Backend-Services liefern wollen. Du baust ein zweischichtiges Setup: Ein FastAPI-Service in Python übernimmt Inference-nahe Logik, Validierung und Orchestrierung. Ein Node.js-Service (Express oder NestJS) bildet den Gateway-Layer, kümmert sich um Integrationen, Rate Limits und eine saubere Client-Anbindung inklusive Streaming. Du lernst, APIs so zu entwerfen, dass sie unter realen Bedingungen stabil bleiben: klare Contracts, Versionierung, Idempotenz, saubere Fehlercodes, Timeouts und Retries. Für Streaming-Ausgaben setzt Du SSE ein und behandelst Abbrüche, Chunking und Backpressure als Teil des Designs. Für asynchrone Workloads implementierst Du Queue-basierte Verarbeitung und Worker-Modelle, damit lange Tasks nicht an HTTP-Request-Limits scheitern und Lastspitzen abgefedert werden. Danach geht es um die Daten- und Retrieval-Schicht, die viele KI-Produkte brauchen: Embedding-Pipelines, Chunking, Metadaten, Vektor-Suche mit Filtern sowie Caching und Re-Ranking. Zum Abschluss verankerst Du Betriebsfähigkeit: Observability mit Tracing, Metrics und Logs, SLOs für Latenz und Verfügbarkeit, sowie Kosten-Telemetrie für Provider-Aufrufe. Security wird praxisnah behandelt, inklusive JWT/OAuth2, Secrets und Input-Validation. Ergebnis ist ein Backend-Blueprint, der sich direkt auf Deine Systemlandschaft übertragen lässt.
Die wichtigsten Themen im Überblick
- Robuste KI-Backends für LLM- und ML-Workloads planen
- APIs mit REST, Webhooks und SSE-Streaming designen
- FastAPI für Inference, Validierung und Async I/O nutzen
- Node.js mit Express oder NestJS als KI-Gateway einsetzen
- RAG-Pipelines mit Embeddings und Vektor-Suche aufbauen
- Async Worker, Queues und Backpressure zuverlässig steuern
- Latenz, Kosten und Fehler mit Observability überwachen
- KI-Deployments mit Containern, CI/CD und Canary vorbereiten
Zielgruppe
- Backend-Entwicklerinnen und Backend-Entwickler mit Python-Erfahrung
- Software Engineers, die LLM- oder ML-Features produktiv betreiben
- Tech Leads und Architektinnen und Architekten für API- und Plattform-Design
- Platform- und DevOps-nahe Rollen mit Backend-Verantwortung
- Für alle, die KI-Backends mit Python und Node.js robust, skalierbar und beobachtbar umsetzen wollen
Voraussetzung für die Schulung
- Sehr gute Python-Kenntnisse und Erfahrung mit Web-APIs.
- Grundkenntnisse in HTTP/REST und Datenbank-Grundlagen sind erforderlich; Node.js-Erfahrung ist hilfreich, aber nicht zwingend.
Kursinhalte
- Architektur für KI-Backends
- Service-Schnitt, Latenz, Kosten und Skalierung als Design-Treiber
- Sync vs. Async, Worker-Modelle, Queue-basierte Verarbeitung
- Multi-Tenant, Secrets, Konfigurations- und Feature-Flags
- API-Design für LLM- und ML-Services
- REST, Webhooks und Streaming (SSE) für Token-Ausgabe
- Idempotenz, Retries, Timeouts und Backpressure
- Versionierung, Contracts und Breaking-Change-Strategien
- Python: FastAPI für Inference und Orchestrierung
- Dependency Injection, Background Tasks, Lifespan-Events
- Async I/O, Concurrency-Limits und Connection-Pooling
- Validierung mit Pydantic, Fehler- und Response-Modelle
- Node.js: Express/NestJS als Gateway und Integrationslayer
- BFF-Pattern, API-Gateway-Responsibilities, Rate Limits
- Streaming-Proxy, Chunking und Abbruch von Requests
- Job-Dispatching an Worker und externe KI-Provider
- Daten- und Retrieval-Schicht (RAG-ready)
- Embedding-Pipelines, Chunking-Strategien, Metadaten
- Vektor-Suche, Filter, Re-Ranking und Caching
- Persistenz: Postgres-Patterns für KI-Workflows
- Observability, Sicherheit und Betrieb
- Tracing/Metrics/Logs, SLOs, Latenz-Budgets, Kosten-Telemetrie
- AuthN/AuthZ (JWT/OAuth2), Prompt- und Input-Validation
- Containerisierung, CI/CD-Grundmuster, Blue-Green/Canary
