Kurs
digicode: GAIPRO
Generative AI in Production
Erfahre mehr über die unterschiedlichen Herausforderungen, die bei der Produktion generativer KI-gestützter Anwendungen im Vergleich zu herkömmlichem ML auftreten.
Dauer
1 Tag
Preis
850.–
zzgl. 8.1% MWST
Kurs-Facts
- Beschreiben der Herausforderungen bei der Produktionsreife von Anwendungen mit generativer KI
- Verwalten von Experimenten und Evaluierungen für LLM-basierte Anwendungen
- Produktionsreife von LLM-basierten Anwendungen
- Implementieren von Protokollierung und Überwachung für LLM-basierte Anwendungen
Du lernst, wie du Experimente und die Feinabstimmung Ihrer LLMs verwalten, und diskutierst anschliessend, wie du deine LLM-basierten Anwendungen bereitstellen, testen und warten kannst. Abschliessend werden Best Practices für die Protokollierung und Überwachung Ihrer LLM-basierten Anwendungen in der Produktion erörtert.
1 Einführung in generative KI in der Produktion
- KI-System-Demo: Kaffee auf Rädern
- Traditionelle MLOps vs. GenAIOps
- Generative KI-Operationen
- Komponenten eines LLM-Systems
- Generative KI-Operationen verstehen
- Traditionelle MLOps und GenAIOps vergleichen
- Die Komponenten eines LLM-Systems analysieren
2 Experimente verwalten
- Datensätze und Prompt Engineering
- RAG- und ReACT-Architektur
- LLM-Modellbewertung (Metriken und Framework)
- Experimente verfolgen
- Experimentieren mit Datensätzen und Prompt Engineering.
- RAG- und ReACT-Architektur nutzen.
- LLM-Modelle bewerten.
- Experimente verfolgen
- Labor: Unit-Tests für generative KI-Anwendungen
- Optionales Labor: Generative KI mit Vertex AI: Prompt-Design
3 Generative KI in die Produktion bringen
- Bereitstellung, Paketierung und Versionierung (GenAIOps)
- Testen von LLM-Systemen (Unit- und Integrationstests)
- Wartung und Updates (Betrieb)
- Prompt-Sicherheit und Migration
- Bereitstellung, Paketierung und Versionierung von Modellen
- Testen von LLM-Systemen
- Wartung und Aktualisierung von LLM-Modellen
- Verwaltung der Prompt-Sicherheit und Migration
- Labor: Vertex AI Pipelines: Qwik Start
- Labor: Schutz mit Vertex AI Gemini API
4 Protokollierung und Überwachung für produktive LLM-Systeme
- Cloud-Protokollierung
- Prompt-Versionierung, -Bewertung und -Verallgemeinerung
- Überwachung auf Verzerrungen bei der Bewertungsbereitstellung
- Kontinuierliche Validierung
- Cloud-Protokollierung nutzen
- Prompts versionieren, bewerten und verallgemeinern
- Überwachung auf Verzerrungen bei der Bewertung
- Kontinuierliche Validierung nutzen
- Labor: Vertex AI: Gemini Evaluations Playbook
- Optionales Labor: Überwachtes Fine-Tuning mit Gemini für Fragen und Antworten
Entwickler und Machine-Learning-Ingenieure, die Gen-AI-basierte Anwendungen operationalisieren möchten
Wir empfehlen die Teilnahme an folgendem Kurs oder gleichwertige Kenntnisse: