Kursbeschreibung
In vielen Teams startet GenAI mit einem schnellen Prototyp und endet mit offenen Fragen: Wo liegen die Daten? Wer darf was? Wie wird das Ganze betrieben und überwacht? Dieses Seminar beantwortet genau diese Fragen für den Azure OpenAI Service und gibt dir ein praxistaugliches Architekturgerüst. Du lernst die Service-Grundlagen und die wichtigsten Stellschrauben kennen: Modelle, Deployments, Endpoints, Quotas, Regionen und die typische Kostenmechanik. Darauf aufbauend entwickelst du eine Azure-Architektur, die sich für echte Unternehmensanforderungen eignet. Du arbeitest mit Referenzmustern für Chat-Anwendungen, RAG und automatisierte Workflows. RAG wird dabei als End-to-End Konzept behandelt: von Embeddings und Chunking über Retrieval-Strategien bis zur Umsetzung mit Azure AI Search als Vektor- oder Hybrid-Suche. Du lernst, wie du Datenquellen anbindest, Indizes aktualisierst und typische Qualitätsprobleme früh erkennst. Ein zentraler Teil ist Responsible AI und Security: Content Safety, Rollen- und Rechtekonzepte, Schlüsselmanagement, Managed Identity, Netzwerkabschottung sowie Schutz vor Prompt Injection. Zusätzlich setzt du dich mit Evaluierung und Regression auseinander, damit Änderungen an Prompts, Daten oder Deployments nicht unbemerkt die Antwortqualität verschlechtern. Nach dem Seminar kannst du Azure OpenAI Service sicher einführen, Architekturentscheidungen begründen und einen ersten produktionsnahen Use Case mit Monitoring, Governance und Kostenkontrolle aufsetzen.
Die wichtigsten Themen im Überblick
- Azure OpenAI Service, Modelle und Kostenlogik verstehen
- Sichere GenAI-Architekturen in Azure planen
- Chat-, RAG- und Automatisierungs-Use Cases umsetzen
- RAG mit Embeddings und Azure AI Search aufbauen
- Daten mit Private Endpoint und Managed Identity schützen
- Prompts und Varianten in Azure AI Studio testen
- Qualität mit Testfällen, Guardrails und Regression messen
- Go-live, Betrieb, Kosten und Skalierung praxisnah planen
Zielgruppe
- Cloud- und Solution-Architektinnen und Cloud- und Solution-Architekten
- IT-Sicherheitsverantwortliche und Governance-Teams
- Entwicklerinnen und Entwickler, die GenAI in Azure integrieren
- Data- und AI-Engineers, die RAG und Search aufbauen
- Für alle, die Azure OpenAI Service verantwortungsvoll einführen und Architekturentscheidungen sicher treffen wollen
Voraussetzung für die Schulung
- Grundkenntnisse in Azure (Ressourcen, Resource Groups, Identitäten) sind hilfreich.
- Grundverständnis von APIs und Webanwendungen erleichtert die Praxisübungen.
Kursinhalte
- Azure OpenAI Service verstehen
- Service-Überblick, Einsatzgrenzen, Kostenlogik
- Modelle, Deployments, Endpoints, Quotas
- Regionen, Verfügbarkeit, Lifecycle und Updates
- Architektur für GenAI in Azure
- Referenzarchitekturen: Chat, RAG, Automatisierung
- Netzwerk- und Identitätsdesign: VNet, Private Endpoint, Managed Identity
- Trennung von Dev, Test, Prod und Governance
- Prompting, Tools und Orchestrierung
- Prompt-Grundlagen, System- und Entwickleranweisungen
- Function Calling und Tool-Integration (Konzept)
- Azure AI Studio: Tests, Varianten, Evaluierung
- RAG-Grundlagen mit Azure-Diensten
- Embeddings, Chunking, Retrieval-Strategien
- Azure AI Search als Vektor- und Hybrid-Suche
- Datenquellen, Indexing, Aktualisierungskonzepte
- Sicherheit, Compliance und Responsible AI
- Content Safety, Prompt Injection, Datenabfluss
- Logging, Monitoring, Audit: Application Insights
- Rollen, Richtlinien, Schlüsselmanagement
- Von der Idee zur produktionsnahen Umsetzung
- API-Nutzung: Chat Completions, Embeddings (Konzept und Beispiele)
- Qualität messen: Testfälle, Guardrails, Regression
- Go-live Checkliste: Betrieb, Kosten, Skalierung
